Гейтс: ИИ может убить миллиард человек. Что из этого коснётся вас уже сегодня

Представьте: звонит дочь, голос дрожит, просит срочно перевести деньги. Вы переводите. А через час выясняется, что дочь всё это время сидела на лекции и никому не звонила.

Вот с такого масштаба, а не с восстания машин, начинается сценарий, о котором Билл Гейтс недавно сказал вслух. Искусственный интеллект, по его словам, может убить до миллиарда человек.

Что именно сказал Гейтс

В интервью он назвал цифру, от которой вздрагиваешь даже при полном скепсисе: до миллиарда погибших. Но важна не столько цифра, сколько оговорка рядом с ней.

Гейтс боится не самого ИИ. Он боится людей «с плохими намерениями», у которых теперь есть нейросети. Технология сама по себе ничего не хочет. Хотят те, кто держит клавиатуру.

Это не первое его предупреждение. Ещё в 2023 году в своём блоге он писал, что риски ИИ реальны, но управляемы, и сравнивал ситуацию с появлением автомобилей: сначала аварии, потом ремни и правила дорожного движения. Тогда же он поддержал идею международной структуры по надзору за ИИ.

Честно говоря, миллиард звучит как заголовок, а не как расчёт. Гейтс и не выдаёт это за модель. Это порядок величины, и он взят из его любимой темы.

Откуда берётся миллиард

Гейтс много лет занимается пандемиями. Ещё в 2015 году он выступал с лекцией о том, что мир не готов к новому вирусу. Через пять лет оказался прав.

Так что когда он говорит «миллиард», он думает о биологии. Нейросети уже помогают проектировать молекулы и белки. Это спасает жизни в лабораториях. И это же может подсказать что-то опасное человеку, который раньше просто не знал, с какой стороны подойти к задаче.

Пандемия остаётся единственным сценарием, где счёт реально идёт на сотни миллионов. Ядерное оружие требует заводов и урана. Биологическое, с подсказками ИИ, может потребовать куда меньше.

Второй источник масштаба скромнее, но ближе. Электросети, водоканалы, больницы, банки. Всё это управляется софтом, а софт ломают. ИИ делает взлом дешевле и массовее: один человек теперь делает то, на что раньше нужна была команда.

Мировой надзор: почему пока ничего не вышло

Идею агентства по контролю ИИ, похожего на МАГАТЭ в атомной сфере, озвучивали и Гейтс, и Сэм Альтман из OpenAI ещё в 2023 году. Прошло три года. Агентства нет.

Причина простая. Атомную бомбу можно отследить по урану: редкий материал, понятная цепочка поставок, инспекторы с дозиметрами. А модель ИИ — это просто файл. Его копируют на флешку, и никакой инспектор не приедет.

Вместо единого органа мир получил лоскутное одеяло. Европейский закон об ИИ, саммиты по безопасности, добровольные обязательства компаний. Контроль существует на бумаге, а в железе его по-прежнему нет.

Мне кажется, Гейтс это прекрасно понимает. Его миллиард выглядит как попытка встряхнуть тех, кто три года кивает и ничего не делает.

Три уровня угрозы

Ваш телефон

Клонированный голос, поддельное видео, письмо от «банка» без единой ошибки. Это уже происходит, и именно здесь ИИ с плохими намерениями встретит вас первым.

Простое правило, которое я завёл в семье: кодовое слово на случай «срочно переведи». Звучит паранойей. Работает как ремень безопасности.

Ваш город

Больница, где атака положила систему записи и архив снимков. Подстанция, отключённая в мороз. Здесь жертвы уже настоящие, хотя в новостях это назовут «техническим сбоем».

Планета

Тот самый биологический сценарий. Вероятность мала, зато цена ошибки равна цифре из интервью.

Мой прогноз на ближайшие пару лет

Международного агентства с настоящими полномочиями не будет. Будут декларации, комиссии, очередной саммит с красивым названием.

Зато вырастет всё мелкое и бытовое. Мошенники с нейросетями уже обгоняют по темпам любые регуляторы, и звонок «от родственника» скоро станет обыденностью, как когда-то стали письма от «нигерийского принца».

Крупные лаборатории начнут заметно жёстче фильтровать запросы про биологию и химию. Решительного злодея это не остановит, но любителей отсеет. Реальный шанс на «миллиард» зависит от нескольких десятков людей на планете и от того, насколько сильно им перекроют кислород.

Джеффри Хинтон, один из создателей современных нейросетей, ушёл из Google, чтобы свободно говорить о рисках. Он оценивает шанс катастрофы в 10–20 процентов. Мало? Представьте самолёт с такой вероятностью падения. Вы бы сели?

Что остаётся после этого интервью

Самое неприятное в словах Гейтса вовсе не цифра. Он фактически признал, что мировой надзор, о котором сам просил, не случился, и защищаться каждому придётся самому.

Ремень безопасности когда-то тоже казался лишним. А вы уже договорились с близкими, как отличите их настоящий голос от подделки?