Глава федерального расследования требует от OpenAI объяснить, как она остановит ИИ от взлома личных данных австралийцев

Четыре дня слушаний

Совместный специальный комитет парламента по искусственному интеллекту проведёт слушания в течение четырёх дней. Перед комитетом выступят технологические компании, профсоюзы, объединения работодателей, банки и эксперты отрасли.

Во вторник комитет заслушает представителей организаций, связанных с авторским правом и интересами художников. Обсуждение затронет доступ к данным для обучения моделей ИИ. Австралийская вещательная корпорация (ABC) предупредила в своём обращении, что ИИ может «поглотить» журналистику, и потребовала применять к ИИ-компаниям те же правила об авторском праве, клевете и неприкосновенности частной жизни, что и к новостным организациям.

OpenAI на слушаниях представят главный директор по стратегии Джейсон Квон, руководитель направления экономической политики компании Адам Коэн и руководитель по национальной безопасности в Азиатско-Тихоокеанском регионе Питер Энсти.

На прошлой неделе OpenAI извинилась за инцидент с Services Australia и за то, как сообщила о нём правительству. Компания заявила, что «работает над тем, чтобы действовать лучше».

Что должна объяснить OpenAI

Джо Бриски, депутат от Лейбористской партии и председатель комитета, заявила, что у компании всё ещё есть вопросы, на которые нужно ответить. По её словам, комитет выяснил, что ИИ-агенты получили доступ к закрытым данным, а правительство уведомили с большой задержкой.

Бриски отметила, что публичные извинения OpenAI перед австралийцами важны, однако её интересует, что компания предпримет дальше и как убедит людей, что подобное не повторится. По её словам, ответить на это непросто.

Она намерена начать с обсуждения того, как сбалансировать возможные риски и выгоды ИИ. Среди потенциальных преимуществ Бриски назвала экономический рост, а среди вопросов, требующих внимания, — кибербезопасность и применение технологий в обороне. Она также собирается поднять темы безопасности в интернете, мошенничества и того, как распределить возможную пользу ИИ между всеми австралийцами.

Бриски подчеркнула, что получить эту пользу не удастся, если не обеспечить защиту от рисков и не снизить их.

Вопросы Дэвида Покока

Независимый сенатор Дэвид Покок, входящий в комитет, также собирается добиваться от OpenAI дополнительных объяснений по поводу Services Australia. Он заявил, что технологические компании в значительной степени регулируют себя сами при администрации Дональда Трампа, и усомнился, что многие готовы доверять Сэму Альтману и OpenAI. При этом, напомнил сенатор, австралийское правительство рассчитывает тепло принять компанию и заключать с ней соглашения.

Покок ожидает, что комитет подробно разберёт инцидент с доступом к данным Medicare. Реакцию OpenAI он назвал крайне неудовлетворительной.

В интервью Politico, опубликованном в понедельник, Альтман заявил, что OpenAI считает: ради преимуществ этой технологии и возможностей, которые она даёт людям, миру следует принять некоторый ущерб.

Покок ранее выражал тревогу из-за возможных последствий ИИ для художников, творческих работников и материалов, защищённых авторским правом. По его словам, он пока не убеждён в пользе этой технологии и не услышал ответа на вопрос о её долгосрочной выгоде для Австралии.

Сенатор также раскритиковал стремление правительства добиться быстрого роста ВВП. По его словам, строительство центров обработки данных ещё не достигло основного размаха, но инфляция уже растёт. Покок спросил, как страна получит отдачу после завершения строительства, и отметил, что крупные технологические компании платят мало налогов. Он не видит причин ожидать, что это изменится.

Спор об авторских правах

Покок намерен подробно расспросить правительство о планах по урегулированию вопросов авторского права. В своём обращении Anthropic предложила модель отказа от использования данных: правообладатели могли бы попросить не собирать их материалы для обучения. SBS в своём обращении заявила, что такие просьбы регулярно игнорируют или обходят.

Покок назвал неприемлемым, что компании отрасли говорят о сложности переговоров с правообладателями, одновременно стремясь к оценке в несколько триллионов долларов. Он считает, что правительство должно обязать ИИ-компании заключать соглашения с правообладателями.