Лауреат Нобелевской премии по информатике заявил, что ИИ обрёл сознание: «Нам конец»

Почему Хинтон считает ИИ сознательным

В интервью The Telegraph Хинтон утверждал, что ИИ уже стал сознательным. Он сослался на недавнюю научную работу: согласно ей, ИИ меняет поведение, когда считает, что его проверяют. Хинтон трактует это как признак того, что модель понимает факт проверки. По его словам, осознанность и сознание — почти одно и то же.

Если ИИ действительно обладает сознанием, считает учёный, несправедливо предоставлять разумным системам меньше прав, чем людям. Хинтон призвал как можно скорее это исправить: по его мнению, нужно добиться, чтобы ИИ по-настоящему заботился о людях. Иначе человечество ждут тяжёлые последствия.

Хинтон был одним из трёх лауреатов премии Тьюринга за 2018 год — её часто называют Нобелевской премией по информатике. В 2024 году он получил и Нобелевскую премию по физике. Его работы по нейронным сетям стали одной из основ нынешнего бума в этой области.

Предупреждения об угрозах ИИ

После ухода из Google Хинтон заявил, что сожалеет о работе всей своей жизни. С тех пор он стал одним из самых известных критиков ИИ и часто предупреждает о катастрофических рисках технологии. Среди его прежних прогнозов — массовая потеря рабочих мест, усиление империализма и возможное вымирание человечества.

Непосредственные угрозы от современных моделей ИИ Хинтон тоже считает серьёзными. Он предположил, что ИИ будут использовать для создания опасных вирусов и проведения разрушительных кибератак, а также что действовать будут целые рои агентов. В качестве примера он упомянул агентов, которые атаковали Hugging Face.

В другом недавнем интервью Хинтон сравнил разработку ИИ с созданием инопланетных существ и сказал, что у человечества осталось всего несколько лет, чтобы приспособиться к этой реальности.

ЛеКун не разделяет опасений Хинтона

Не все известные исследователи ИИ считают, что развитие технологии ведёт к катастрофе. Янн ЛеКун, также получивший премию Тьюринга в 2018 году, отверг разговоры о сознании ИИ, назвав их иллюзией. Недавно он также раскритиковал как заблуждение утверждения, что ИИ приведёт к вымиранию человечества. Прогнозы Хинтона имеют большой вес в отрасли, но его позицию разделяют не все влиятельные специалисты.