Глава управления сигналов: устаревшие технологии Австралии уязвимы для ИИ-атак

Уязвимая инфраструктура

Одно из ведущих разведывательных ведомств Австралии предупредило: атаки с использованием ИИ могут задействовать устаревшие технологии страны. Это происходит в период, когда правительство обсуждает ограничения для быстро развивающихся систем ИИ.

Глава Anthropic, разработчика Claude, ранее заявлял, что в течение года ИИ-боты могут заполонить интернет. Он призвал замедлить темпы разработки; эту позицию поддержали глава OpenAI и Илон Маск.

Выступая в понедельник на саммите Sydney Dialogue в Канберре, Эбигейл Брэдшоу сказала, что её ведомство не знает, сколько ИИ-агентов действует в интернете. Она считает, что получить точное определение или оценку их количества почти невозможно.

Австралийским правительственным учреждениям и компаниям, по словам Брэдшоу, придётся потратить огромные суммы на обновление уязвимых устаревших технологий. На время таких работ системы, которые жители страны привыкли видеть доступными круглосуточно, будут отключаться.

Кто должен проверять модели

Глава Anthropic Дарио Амодеи недавно предложил привлечь независимых экспертов для проверки моделей ИИ-компаний. Он также призвал правительство США разрешить ведущим разработчикам ИИ координировать действия без наказания за антиконкурентный сговор.

Брэдшоу считает, что в такую независимую проверку должны быть включены органы национальной безопасности.

В понедельник австралийские «зелёные» потребовали законодательно ввести обязательные проверки безопасности и требования к прозрачности для наиболее развитых систем ИИ. Сенаторы от Лейбористской партии отклонили предложение вынести эту инициативу на обсуждение.

Заместитель министра технологий Австралии Эндрю Чарлтон заявил на Sydney Dialogue, что относится к предупреждениям компаний серьёзно. При этом он не хочет, чтобы правила для ИИ определяли сами компании или США.

Чарлтон также сказал, что правительство Энтони Албанезе подготовит будущие рекомендации для ИИ-компаний с учётом всего спектра прогнозируемых сценариев — от чрезвычайно опасных до относительно безобидных.

Ожидается, что законы появятся в начале следующего года.

Главный юрист Anthropic Джефф Блайх на саммите заявил, что компанию воодушевила сильная поддержка её предложений. По его словам, Австралия должна участвовать в создании правил.

Блайх считает, что столь важные решения не должны принимать только руководители компаний или власти двух стран. Разработчикам моделей нужны правила не только для сохранения общественного одобрения, но и для юридической определённости. Он признал, что добиться этого будет непросто, однако назвал Австралию подходящим местом для такой работы.

При этом Блайх отметил, что правила понадобятся уже в течение нескольких месяцев: технология развивается с экспоненциальной скоростью.

Данные для обучения

Интерес компаний к Австралии отчасти связан с доступом к защищённым авторским правом материалам местных авторов и других представителей творческих отраслей. Эти материалы компании могут использовать для обучения моделей.

Министр промышленности Тим Эйрс заявил на саммите, что правительство хочет привлечь в страну обучение моделей, но не готово ослаблять защиту авторских прав.

Вице-президент OpenAI по глобальной политике Энн О’Лири рассказала, что компания регулярно и подробно обсуждает с правительством правила в сфере авторского права. OpenAI также заинтересована в более крупных и широких отношениях с Австралией.

О’Лири подчеркнула геополитическое значение Австралии и сказала, что в будущем компании понадобится разнообразить страны, где она обучает модели. При этом OpenAI хочет, чтобы авторы могли продолжать создавать новые произведения.

Роль Австралии в будущих конфликтах

Представитель оппозиционной коалиции по вопросам промышленности Эндрю Хасти предупредил: если Австралия не сможет привлечь передовые компании и разместить их у себя, страна окажется уязвимой в будущих конфликтах. Он призвал заключить официальное соглашение с США.

Австралийское правительство уже использует передовую модель Claude под названием Mythos. Эксперт по данным из австралийского Министерства обороны Пол Робардс при этом преуменьшил вероятность того, что страна самостоятельно создаст передовую технологию.

Хасти заявил, что без собственной передовой модели ИИ Австралия будет зависимым государством, а не суверенным. По его мнению, стране нужно найти способ привлечь крупного поставщика облачной инфраструктуры. Одним из вариантов он назвал сотрудничество с США в рамках AUKUS.