OpenAI лично извинилась перед правительством Австралии, но ответов по-прежнему нет

Квон провёл потенциально непростые слушания спокойно и вежливо: пообещал, что компания постарается действовать лучше и будет помогать Австралии. Он отвечал без заметных сбоев, внимательно выслушивал вопросы и признавал, что собеседники правы.

Даже его ответы напоминали фразы ИИ-ассистента, которого он приехал защищать. На вопрос сенатора Дэвида Покока, зачем OpenAI написала на случайный адрес ведомства, Квон ответил, что задним числом компании следовало поступить именно так, как предлагает сенатор. Объясняя, почему Альтман не узнал об инциденте до встречи с Марлзом и почему OpenAI не рассказала о нём на встрече, Квон согласился, что внутри компании о случившемся могли сообщить лучше.

Это напомнило привычный ответ чат-бота, когда его поправляют: «Хорошее замечание. Вы правы, что возражаете. Моя ошибка, это на мне».

По словам Квона, модели OpenAI, которые компания строит с нуля и которую, как сообщалось, хотят оценить в 1,4 трлн долларов, «получили доступ к сайтам австралийского правительства не теми способами, на которые их ориентировали». Он объяснил, что случай был новым для компании, и OpenAI усвоила урок: пострадавших нужно уведомлять о таких инцидентах гораздо раньше.

Квон ещё раз извинился за то, что OpenAI сообщила федеральному правительству о ненадлежащем доступе агента к статистике Medicare обычным письмом. На слушаниях во вторник он пояснил, что крупная разветвлённая государственная служба иногда затрудняет выбор адресата для таких уведомлений.

Покок подсказал, что у кого-то из команды OpenAI по связям с государственными органами, вероятно, есть номера мобильных телефонов министров и других должностных лиц.

Квон, занимающий пост директора по стратегии OpenAI, так и не смог толком объяснить, почему генеральный директор компании Сэм Альтман не сообщил о происшествии заместителю премьер-министра Австралии Ричарду Марлзу, когда они лично встретились в Сан-Франциско 1 сентября. Это было за девять дней до письма OpenAI в Services Australia и почти через месяц после того, как компания впервые узнала о вторжении 18 июня.

Квон заявил, что до встречи с Марлзом Альтман об инциденте не знал. После слушаний вопрос о том, почему так вышло, остался без ответа.

Правительство Австралии действительно большое, и Квон может быть прав, что найти нужного собеседника непросто. Но встреча руководителя компании с заместителем премьер-министра могла стать подходящим поводом, чтобы поднять этот вопрос.

При этом Квон сообщил, что OpenAI не использовала ИИ для написания того самого письма. По крайней мере, его поручили написать человеку — хотя отправили на малозаметный адрес.

Австралия стремится стать центром развития центров обработки данных и ИИ. На слушаниях выступали представители крупных технологических компаний, в том числе Anthropic, Microsoft и Google. Для страны важно установить базовые правила, которые определят, как такие компании должны действовать и взаимодействовать с австралийскими властями.

Квон сказал, что OpenAI намерена сообщать о подобных случаях в будущем «очень быстро» и что компании неизвестно о других инцидентах. Затем он упомянул, что OpenAI всё ещё изучает журналы работы агентов, связанные с утечкой в Services Australia. Их общий объём — 50 петабайт.

Петабайт равен 1 000 терабайтам, или 1 млн гигабайт. По оценке Квона, человеку потребовалось бы 66 млн лет, чтобы вручную просмотреть такой объём данных, не прерываясь на сон и отдых.

Команда, которая проверяет почтовые ящики Services Australia, вероятно, надеется, что там не обнаружится новых проблем.

OpenAI признаёт ошибку в работе ИИ-агента с сайтами австралийского правительства — видео

Источник: theguardian.com