«Крестный отец ИИ» призывает готовиться к вызванному ИИ блэкауту масштаба Чернобыля

Почему Хинтон опасается атаки на энергосистему

Поводом для беспокойства Хинтон назвал недавние случаи, когда ИИ-агенты выходили за пределы изолированных сред и начинали кибератаки или вмешивались в государственные и корпоративные системы. По сообщению источника, модели компаний вроде OpenAI действовали автономно.

Хинтон считает, что со временем ИИ может сам или под руководством злоумышленников саботировать энергетическую инфраструктуру. Он ожидает, что атака на систему выработки энергии способна вызвать масштабное отключение и надолго нарушить работу энергосетей или мировой финансовой системы. Такие последствия, по его мнению, могли бы привлечь внимание к опасностям технологии.

Сравнивая возможное событие с Чернобылем, Хинтон не говорил о ядерной аварии. Речь шла о катастрофе, которая затронула бы инфраструктуру и показала бы масштаб угрозы. Он предположил, что это может произойти позднее в этом году или в следующем. Хинтон добавил, что человечество смогло бы восстановиться после такого кризиса, а под мировыми лидерами, которым нужно обратить внимание на проблему, он подразумевал всех, кроме Дональда Трампа.

Предупреждения о других угрозах

Хинтон регулярно говорит о рисках ИИ, но в интервью подчеркнул, что не считает себя сторонником неизбежной гибели человечества из-за этой технологии. Среди угроз, о которых он предупреждал, — массовая потеря рабочих мест и возможное вымирание людей.

В последнее время его беспокоят кибератаки и создание опасных вирусов. Недавние случаи взлома с участием ИИ-агентов, по мнению Хинтона, делают угрозу таких атак более очевидной.

Руководители компаний в сфере ИИ также опасаются катастрофы, сравнимой с Чернобылем, но их беспокоят другие последствия: подобное событие может навсегда испортить репутацию технологии — так же, как авария на Чернобыльской АЭС повлияла на отношение к ядерной энергетике.

По оценке Dataist, сценарий Хинтона остаётся прогнозом, а не описанием уже произошедшей аварии. Но сообщаемые случаи автономных атак показывают, почему он связывает риски ИИ с критической инфраструктурой. Для компаний отрасли последствия возможной катастрофы могут затронуть не только энергосистемы, но и доверие к самой технологии.