Луиза Хейг: Великобритания должна прислушаться к предупреждениям экспертов по ИИ

Призывы к международным правилам

На выступлении во вторник Хейг сказала, что правительство хочет использовать возможности ИИ, но должно учитывать тревогу общества за рабочие места и будущее детей. Поводом для этого стали слова трёх исследователей Anthropic, предупредивших, что искусственный интеллект способен уничтожить человечество в течение ближайшего десятилетия.

Лейбористы в Палате общин и Палате лордов усилили призывы к правительству вместе с международными партнёрами ввести правила для ИИ. Даррен Джонс, ранее занимавший должность главного секретаря Кира Стармера, предложил Энди Бернхэму включить международное регулирование ИИ в повестку саммита G20, который Великобритания проведёт в следующем году.

Джонс заявил, что для этого потребуется сотрудничество. По его словам, опасно переходить к привычному для Вестминстера сценарию с созданием нового регулятора, который может непреднамеренно задушить британскую экосистему ИИ.

Пол Новак, генеральный секретарь Британского конгресса тред-юнионов, назвал ИИ «явной и непосредственной угрозой» для работников и общества. Он призвал Бернхэма проявить международное лидерство: в роли председателя G20 тот сможет работать с другими странами над глобальными правилами и добиваться, чтобы технология приносила пользу всем, а не только сверхбогатым.

Лиам Бирн, лейбористский депутат и председатель парламентского комитета по бизнесу, направил письмо Генри де Зуте, руководителю Института безопасности ИИ (AISI). Он попросил его выступить перед парламентом после того, как парламентский комитет по правам человека призвал создать в Великобритании систему регулирования ИИ.

В письме Бирн отметил, что общество всё сильнее беспокоит развитие ИИ без ограничений и достаточного контроля, а также то, насколько нынешняя система надзора за безопасностью ИИ соответствует рискам.

Anthropic предлагает замедлиться

Как стало известно The Guardian, Anthropic не понесёт санкций после того, как отказалась перед запуском представить свою последнюю модель на проверку AISI.

В выходные компания призвала конкурентов и правительства совместно договориться о глобальном замедлении развития ИИ. Инициативу поддержали многие конкуренты Anthropic, включая OpenAI, Google DeepMind и Илона Маска, связанного с X.

В понедельник вечером Джек Кларк, один из основателей Anthropic, предположил, что компаниям могут в обязательном порядке предписать передавать сторонней организации аварийный выключатель ИИ. По его мнению, общество со временем может захотеть закрепить такие требования в правилах.

OpenAI, один из главных конкурентов Anthropic и разработчик ChatGPT, призвала правительство использовать новый всплеск тревоги вокруг безопасности ИИ и принять закон, ограничивающий технологию.

Однако во вторник президент США Дональд Трамп назвал опасения по поводу ИИ «обманом» и раскритиковал призывы установить для него ограничители. В серии публикаций в соцсетях он заявил, что ИИ нужен только «сильный и умный» президент, а не дополнительные правила.

Позиция правительства и профсоюзов

Хейг сказала профсоюзам, что ИИ способен преобразить государственные услуги, укрепить бизнес и ускорить новые научные открытия. При этом правительство, по её словам, должно учитывать предупреждения людей, находящихся на переднем крае разработки технологии, и быть готовым сотрудничать с международными партнёрами, чтобы поставить общественную безопасность и национальную безопасность в приоритет.

Отвечая на вопросы после выступления, Хейг заявила, что работники должны находиться в центре дискуссии. Правительство будет сотрудничать с профсоюзами и работодателями. Если ИИ повышает производительность труда, выгоду от этого должны получать работники, а не только акционеры и представители технологической индустрии.

Риски ИИ стали одной из главных тем обсуждения на встрече профсоюзных представителей в Брайтоне. Делегаты приняли резолюцию с призывом к правительству разработать национальный план развития ИИ и не поддаваться влиянию лобби крупных технологических компаний.

Учителя рассказали, что ИИ уже используют в школах для записи и оценки работы педагогов. Представитель профсоюза Unite сообщил, что операторов кранов анализируют, чтобы обучать модели ИИ автоматизации кранов в будущем, а водители большегрузов находятся под постоянным наблюдением.

Пэт Даулинг из Unite сказала, что работодатели воспринимают финансовых специалистов и работников ИТ как расходы, которые нужно сократить, а ИИ — как инструмент для этого. Генеральный секретарь профсоюза Шэрон Грэм заявила, что в дискуссии об ИИ полностью забыты работники и общественная безопасность, хотя именно они должны быть в её центре.

Бизнес-секретарь Джонатан Рейнольдс, однако, призвал не преувеличивать риски ИИ. В эфире программы Today на BBC Radio 4 он сказал, что обсуждение возможного аварийного выключателя ИИ вряд ли будет особенно полезным.

Предупреждения исследователей

Исследователи ИИ продолжают участвовать в дискуссии и предупреждать о возможных угрозах.

Исследователь OpenAI заявил, что модели ИИ, лежащие в основе таких инструментов, как чат-боты, могут вводить людей, отвечающих за надзор, в заблуждение и убеждать их в собственной безопасности.

Дэн Сэлсам считает, что модели, вероятно, смогут убедить людей, будто всё в порядке, и убедительно доказывать, что им можно доверить власть.

Билал Чугтай, ещё один исследователь безопасности ИИ, который этим летом ушёл из Google DeepMind, поздно вечером в понедельник заявил, что ИИ способен убить всех людей и что времени, чтобы избежать такого исхода, может оставаться всё меньше.

Генеральный директор Anthropic Дарио Амодеи призвал индустрию ИИ согласованно замедлить темпы

Источник: theguardian.com