Эндрю Хасти: ИИ посоветовал написать «поздравляю!» мужчине, планировавшему эвтаназию

Ошибка Copilot

Когда мужчина с неизлечимой болезнью написал своему депутату Эндрю Хасти, что планирует завершить жизнь с помощью добровольной помощи в уходе из жизни, Microsoft Copilot предложил Хасти ответить поздравлением, сообщить, что рад это слышать, или назвать новость замечательной.

Хасти рассказал об этом в пятницу на парламентских слушаниях, чтобы показать ограничения программного обеспечения, работающего под управлением американской компании. Одновременно он призвал создавать ИИ под контролем Австралии.

Слушания стали подробным разбором планов правительства Энтони Албаниза по привлечению в Австралию Anthropic и OpenAI. Ранее звучали призывы замедлить их приход или вовсе не допускать компании в страну.

Представители оборонного сектора заявили, что отказ от этих компаний может иметь катастрофические последствия.

Зачем обороне нужен ИИ

Эбигейл Брэдшоу, генеральный директор Австралийского управления сигналов, сказала, что её сотрудникам передовые системы ИИ нужны ежедневно для противодействия «высококомпетентным злоумышленникам в киберпространстве».

По её словам, если цифровой противник получит доступ к более новым и способным моделям, чем австралийские специалисты, он сможет находить уязвимости в системах и сетях и использовать их раньше, чем это успеют сделать защитники.

При этом ведущее австралийское киберразведывательное ведомство «полностью зависит» от вычислений, размещённых в США. В случае отключения от них во время конфликта его возможности «резко» сократятся, предупредила Брэдшоу.

Главный директор по ИИ при оборонном ведомстве Крис Крозье сообщил, что правительство уже пытается сохранить технологические ресурсы внутри страны. Для этого оно заключило с Google контракт на строительство связанных между собой дата-центров в разных регионах Австралии, которые не будут подключены к США.

Крозье отметил, что никто не должен иметь возможности однажды проснуться в плохом настроении и решить отключить эти системы.

Оборонное ведомство не хочет использовать наборы ИИ-инструментов, расположенные за рубежом. Вычисления, приложения, данные и принятие решений должны находиться в Австралии.

Привлечение крупных технологических компаний упростило бы эту задачу. Речь шла бы не только о том, чтобы армия могла защищать и обслуживать собственные дата-центры.

Условия для разработчиков

Управление по вопросам ИИ при канцелярии премьер-министра заявило, что подчинение компаний австралийскому законодательству упростит местным правоохранительным органам борьбу с угрозами на их платформах.

Жёсткие условия доступа также могут заметно повысить шансы Австралии использовать лучшие ИИ-инструменты и защищаться с их помощью. Брэдшоу перечислила преимущества, которые страна могла бы получить:

По её словам, этого можно добиться строгими требованиями к ведущим разработчикам, которые захотят обучать модели в Австралии. Среди условий — государственный контроль и ранний доступ к передовым моделям.

Правительство уже готовит правила для компаний, которые придут в страну. Сейчас оно консультируется по стандартам, обязывающим ИИ-компании сообщать о проблемах и нарушениях. Кроме того, власти могут зарезервировать часть вычислительных мощностей для местных исследований.

Крупные дата-центры должны будут:

Глава Австралийского управления сигналов Эбигейл Брэдшоу

Источник: theguardian.com

Спор об авторском праве

Ещё один элемент будущих стандартов — авторское право. Его правила пока не согласованы: разработчики ИИ отказываются обучать модели в Австралии без реформы законодательства.

Предложение автоматически предоставить компаниям доступ ко всему, что австралийцы создают в интернете, вызвало волну возмущения среди творческих работников. Они заявляют, что разработчики могли бы платить за местные лицензии на использование австралийского контента.

Однако Дженна Пристли, помощник секретаря департамента генерального прокурора, в пятницу подтвердила: смягчение авторского права повлияет и на доступ ИИ к контенту иностранного происхождения, который распространяется в Австралии.

По её словам, компании хотят обучать модели на, возможно, миллиардах единиц информации и считают практически невозможным заключить соглашение с каждым правообладателем.

Пристли объяснила, что австралийская система авторского права защищает не только материалы австралийского происхождения, но и контент со всего мира. Поэтому число правообладателей, с которыми компаниям пришлось бы договариваться, будет очень большим.

Сроки регулирования

Сенатор от партии «Зелёных» Дэвид Шубридж, выступающий против реформы авторского права и требующий приостановить развитие ИИ, в пятницу заявил, что Лейбористская партия отказала ему в месте в комитете, проводящем слушания.

Всю неделю министры Лейбористской партии встречались с вице-президентом OpenAI и специальным представителем Anthropic Джеффом Блайхом. На этой неделе Блайх предупредил, что у Австралии могут остаться всего несколько месяцев для введения эффективного регулирования.

Департамент генерального прокурора сообщил на пятничных слушаниях, что содержание и сроки реформы авторского права ещё не определены. Канцелярия премьер-министра при этом заявила: Энтони Албаниз хочет представить проекты законов о более широких стандартах для ИИ к концу 2026 года.

Брэдшоу предупредила, что из-за задержки Австралия может потерять влияние на разработчиков моделей и особый доступ к их системам. По её словам, решения об обучении моделей нужно принимать срочно, иначе компании, вероятно, начнут искать другие страны для размещения своих мощностей.