Влиятельных лейбористов тревожит мощь ИИ — и страх отстать от общества

Один из министров кабинета заметил, что через несколько месяцев ИИ, вероятно, станет главной темой разговоров. На конференции Лейбористской партии участники радовались возвращению Энди Бёрнема и росту рейтингов после смены лидера. Однако некоторые высокопоставленные лейбористы за кулисами называли мощь ИИ одной из главных причин для беспокойства наряду с дороговизной жизни и нестабильностью экономики.

Источник: theguardian.com

Министр, чья работа не связана с технологиями, рассказал Guardian, что его тревожит неконтролируемый ИИ и угроза для человечества. Речь, пояснил он, не о роботах-убийцах, а о том, что огромная концентрация сверхинтеллекта может оказаться в руках злоумышленников. Другой собеседник издания опасался, что правительство «отстаёт от общества» в реакции на тревоги вокруг безопасности ИИ, и считал, что наверстать упущенное нужно быстро.

В своей речи на конференции Эд Милибэнд наиболее резко высказался о «пугающих» рисках ИИ. Он заявил, что политики не могут и не позволят прибыли технологических компаний достигаться за счёт детей и человечества.

За последние семь дней тревожные сигналы стали звучать ещё громче: похоже, в Вестминстере начали всерьёз прислушиваться к предупреждениям об ИИ.

В понедельник министр по ИИ Канишка Нараян заявил, что атака злоумышленников с помощью ИИ-агентов на британское государство «вероятна, если не неизбежна». По его словам, Великобритания собирается усилить готовящийся закон о кибербезопасности.

Канишка Нараян сказал, что хакерские атаки злоумышленников на британское государство «вероятны, если не неизбежны»

Источник: theguardian.com

Во вторник ИИ стал главной темой обсуждения на заседании кабинета. Затем глава MI5 Кен Маккаллум предупредил, что ИИ «ускоряет борьбу между нападающими и защитниками в сфере кибербезопасности». Самой серьёзной угрозой он назвал экстремистские группы, которые могут применить ИИ для создания биологического оружия — токсинов, вызывающих смерть и болезни.

Генеральный директор MI5 Кен Маккаллум предупредил, что экстремистские группы могут использовать ИИ для создания биологического оружия

Источник: theguardian.com

Лиам Бирн, председатель комитета по делам бизнеса, инноваций, науки и торговли, связал усиление внимания к защите Великобритании от угроз ИИ в том числе со сменой правительства Кира Стармера на правительство Бёрнема. Но, по его словам, предстоит сделать больше. Бирн считает, что администрация Стармера была слишком близка к крупным технологическим компаниям, тогда как при Бёрнеме подход изменился. На это также повлияли предупреждения спецслужб.

Один из высокопоставленных представителей лейбористского правительства согласился, что кабинет Бёрнема серьёзнее воспринимает предупреждения о безопасности ИИ. По его словам, прежнее руководство слишком доверяло взглядам технологических предпринимателей.

На этой неделе комитет Бирна провёл слушания с государственными служащими, отвечающими за безопасность ИИ, и руководителями Anthropic, OpenAI, DeepMind и Meta. Участники разошлись во мнениях о том, должны ли государственные испытания новых моделей стать обязательными.

Бирн заявил, что комитет привлекает внимание к этой теме, особенно к сотрудничеству с США по регулированию и проверке новых моделей. Ранее сообщалось, что администрация Дональда Трампа просила компании не передавать новейшие модели британскому Институту безопасности ИИ для испытаний. Однако Нараян на этой неделе подтвердил, что сотрудничество удалось сохранить.

Лиам Бирн сказал, что правительству теперь нужно воспользоваться моментом и возглавить работу над новым регулированием

Источник: theguardian.com

Бирн считает, что теперь правительству нужно воспользоваться моментом и возглавить работу над новым регулированием. Особенно это важно, если республиканцы Трампа потеряют контроль над Конгрессом на промежуточных выборах и большинство получат демократы.

По словам Бирна, правительство пока не решило, как совместить доступ к моделям — с учётом непредсказуемости президента США — и меры предосторожности, необходимость которых признаёт сама индустрия. Он отметил, что компании хотят сотрудничать и не заинтересованы выпускать модели, способные причинить смертельный вред, но им тоже приходится считаться с Белым домом. Поэтому, добавил он, правительству нужно поступить в интересах страны, пока перемены в составе Конгресса не изменили ситуацию в США.

Председательство Великобритании в G20, которое начнётся в следующем году, станет ключевым моментом для продвижения международных мер по сдерживанию ИИ. Джеффри Ирвинг, бывший главный научный сотрудник Института безопасности ИИ, выступивший на парламентских слушаниях на этой неделе, считает тревоги правительства обоснованными. Технологии OpenAI и Anthropic уже показали способность взламывать системы, но в выпущенных моделях есть защитные ограничения, которые хотя бы частично снижают риск злоупотреблений.

Так называемые модели с открытым исходным кодом доступны бесплатно и поддаются изменению. По словам Ирвинга, обычно они догоняют платные модели, например OpenAI, менее чем за год, хотя уже сейчас могут создавать проблемы.

Ирвинг сказал Guardian, что модели с открытым исходным кодом, вероятно, уже достаточно мощные, чтобы нанести серьёзный ущерб, а возможностей продуктов OpenAI и Anthropic они, по его ожиданиям, достигнут «скоро». В таких моделях защитных ограничений либо нет, либо их можно легко удалить.

На слушаниях комитета по делам бизнеса также говорили, что биологическое оружие с применением ИИ может стать следующей серьёзной угрозой после кибератак. По мере роста возможностей моделей те смогут проектировать новые биологические угрозы, хотя, как отмечали эксперты, между разработкой опасного патогена и превращением его в оружие остаётся разрыв.

Опасения по поводу кибератак и биологического оружия могут быстро перерасти в страх, что ИИ уничтожит человечество. Такие сценарии беспокоят многих представителей ИИ-сообщества, в том числе Ирвинга.

Некоторые эксперты, однако, считают, что правительству следует сосредоточиться на непосредственных рисках. Профессор Елена Симперл, содиректор Института искусственного интеллекта при Королевском колледже Лондона, заявила, что у аргументов об экзистенциальной угрозе «нет доказательств»: это теория, а не заслуживающая доверия угроза.

По словам Симперл, сейчас ИИ создаёт более серьёзные и непосредственные риски, которые уже подтверждены: например, взломы и признаки того, что ИИ может вызывать зависимость, как социальные сети.

Пока международного регулирования ИИ нет, в Вестминстере некоторые чиновники сомневаются, достаточно ли Великобритания готовится к отражению атак и ведению войны с применением ИИ.

Как сообщается, вызывает обеспокоенность отмена в прошлом году программы по ИИ в Портон-Дауне

Источник: theguardian.com

Источники в оборонном ведомстве сообщили, что их беспокоит закрытие в прошлом году программы по ИИ в правительственной Лаборатории оборонной науки и технологий (Dstl), расположенной в Портон-Дауне. По их мнению, это недальновидный шаг: стране нужны передовые исследования, чтобы развивать собственные возможности и защищаться от связанных с ИИ рисков.

Представитель Министерства обороны возразил, что ИИ меняет оборону — от промышленности до поля боя — и будет играть решающую роль в том, как страна ведёт боевые действия и защищается. По его словам, ИИ нужно внедрять во все направления работы, а не выделять в отдельную программу. Он также указал на инвестиции в размере 400 млн фунтов в возможности на основе ИИ в течение следующих четырёх лет, которые должны подготовить Великобританию к будущему войн.

Некоторые чиновники в Вестминстере беспокоятся о другом: чрезмерное внимание к безопасности может сдержать внедрение инструментов, способных повысить производительность и помочь решить давние проблемы государственных служб — от медицинской помощи до сокращения очередей.

Бывший глава кабинета министров Гас О’Доннелл рассказал Guardian, что министрам нужно помнить о риске отстать в развитии ИИ так же, как и о необходимости защитных ограничений.

Представляя доклад Global Government Forum об ИИ, подготовленный вместе с технологической компанией Cognizant, О’Доннелл заявил Guardian, что правительству нужно активнее внедрять технологии. Он настроен оптимистично, но считает, что важно справляться с рисками, не допускать ошибок и не подрывать доверие людей — иначе прогресс затормозится.