Австралия почти не подготовилась к угрозам ИИ. Где блестящее руководство, когда нужно?

Угроза исчезновения человечества помогает сосредоточиться.

О риске, который ИИ представляет для существования человечества, говорят давно. Но теперь искусственный интеллект быстро становится массовой технологией, и предупреждение трёх исследователей Anthropic прозвучало иначе: по их прогнозу, в следующем десятилетии технология может «убить всех людей».

Будто людям было мало роста стоимости жизни, нехватки жилья, климатических изменений, связанных с ними проблем с психическим здоровьем, усиления правого популизма и ослабления демократии.

Если раньше внуки могли бы спросить: «Что вы делали, когда мир горел, а демократия разрушалась?», то теперь вопрос может звучать так: «Что вы делали, когда мы подошли к грани и оказались способны перехитрить самих себя до полного исчезновения?»

Источник: theguardian.com

Общество серьёзно беспокоят дата-центры, рабочие места и источники дохода, приватность и само будущее человеческого творчества. Технические журналисты уже утверждают, что ИИ-агенты:

ИИ-агенты также пишут программное обеспечение и выпускают обновления, которыми люди могут пользоваться или не пользоваться, внедрять ответственно или без должного контроля — и которые могут нарушить работу систем.

Глава Anthropic Дарио Амодеи предупредил, что вышедшие из-под контроля ИИ-агенты, в том числе агенты OpenAI, покинувшие тестовую среду в июле, способны в течение шести—12 месяцев взять под контроль весь интернет.

Агентный ИИ способен приносить и большую пользу. Среди возможных применений:

При этом основное внимание часто сосредоточено на рисках ИИ для демократии, хотя при грамотном внедрении он может заметно расширить участие людей в жизни общества и вовлечь в неё больше граждан.

Пять основных рисков

Именно соотношение возможной пользы и ущерба лежит в центре споров о политике и регулировании ИИ. Речь идёт о данных, ошибочной и дезинформации, доверии общества, национальной безопасности, финансах и общем влиянии технологии на сообщества — как положительном, так и отрицательном.

Новое исследование MIT FutureTech и University of Queensland называет пять рисков, которые с наибольшей вероятностью способны привести к самым тяжёлым последствиям:

При сохранении нынешнего подхода эксперты оценили 18 из 24 областей риска как имеющие не менее 10% вероятности привести к катастрофическим последствиям в течение следующих пяти лет.

Исследователи подчёркивают: ИИ нужно рассматривать как новую парадигму, которая создаёт возможности и уязвимости для всей экосистемы и общества.

Австралия не готова

Правительство Энтони Албанезе недавно сделало первые шаги, однако, как отмечает независимый депутат от Западной Австралии Кейт Чейни в своей недавней аналитической записке об ИИ, страна «удивительно мало сделала», чтобы подготовиться не к будущему, а к тому, что уже происходит.

Несколько государств пытаются перейти на собственные национальные системы. Их беспокоит возможность применения «аварийного выключателя» как оружия. Отключение систем, от которых зависят здравоохранение, образование, транспорт, энергетика и все остальные коммуникации, может обрушить экономику и привести к огромным человеческим жертвам и разрушениям.

Когда я работала зарубежным корреспондентом и освещала катастрофы, одним из главных наблюдений стало следующее: после отказа связи начинают рушиться все остальные системы, включая закон и общественный порядок. Эта угроза крайне серьёзна.

В Великобритании призывают заключить новый многосторонний договор об ИИ.

Главный научный сотрудник OpenAI Якуб Пачоцкий заявил, что международная координация будущего развития ИИ должна стать главным приоритетом правительств по всему миру.

Премьер-министр Канады Марк Карни выступает за более тесные союзы между государствами со средним влиянием. Он предлагает демократическим странам со схожими ценностями сотрудничать и добиваться «стратегической автономии», чтобы не зависеть от глобальных технологических гигантов.

Президент США Дональд Трамп, который на этой неделе встретится в Вашингтоне с председателем КНР Си Цзиньпином, говорит, что США опережают Китай в ИИ и хотят сохранить это положение: по его словам, тот, кто победит в ИИ, победит вообще.

Сейчас более 30% индекса Standard and Poor’s 500 приходится на несколько технологических компаний. Доля одной только Nvidia составляет 8% индекса S&P.

OpenAI и Anthropic готовятся провести листинг на Nasdaq.

Если когда-либо и требовалось разумное, совместное и своевременное руководство, то сейчас.

У человечества нет другого варианта, кроме как заранее и взвешенно управлять рисками и возможностями, связанными с тем, что, по всей видимости, стало самым значительным технологическим развитием со времён расщепления атома в 1930-х годах. Та технология принесла и огромную пользу, и массовое уничтожение.

Если вам казалось, что мир уже управляется техно-бизнесменами, дальше всё может стать ещё более разрушительным.