Канберру «предупредили»: ИИ-материалы несут ложные сведения в парламентские расследования

Вымышленные исследования

Руководители федеральных парламентских комитетов заявили, что материалы, созданные ИИ, уже влияют на выработку решений. Политикам приходится внимательнее проверять достоверность поступающих материалов.

По данным анализа Guardian Australia, парламентские расследования заполняют документы, созданные ИИ. Языковые модели выдумывают исследования и приписывают несуществующие работы реальным учёным и авторам. В некоторых случаях комитетские отчёты ссылались на материалы, где большая часть источников, судя по всему, была результатом вымышленных ответов ИИ. Так называют ситуации, когда большие языковые модели создают или упоминают правдоподобный, но несуществующий контент.

Либеральный сенатор Пол Скарр заявил, что публикация Guardian Australia показала очевидные риски роста числа материалов с вымышленными сведениями. По его словам, главная опасность заключается в том, что лица, принимающие решения в парламенте, бизнесе или других сферах, могут опереться на неверную информацию. Риск повышается, если материал исходит от человека или организации с высоким авторитетом.

Скарр считает, что политикам теперь нужно особенно тщательно проверять сноски, источники и утверждения в поданных материалах.

В 2023 году Скарр входил в комитет, который получил документ с ложными обвинениями KPMG в нарушениях.

Guardian Australia тогда сообщила, что консалтинговая компания пожаловалась комитету. Ответственность за этот материал взял на себя один из учёных.

Сенатор от Либеральной партии Пол Скарр говорит: «Опасность существует», когда речь идёт об ошибках в представленных материалах

Источник: theguardian.com

Скарр отметил, что комитеты обязаны рассматривать все поступившие материалы. Поэтому, если ошибочные сведения встречаются лишь в небольшой их части, общий эффект может быть ограниченным, но риск всё равно сохраняется.

Проверка необычных утверждений

Луиза Миллер-Фрост, депутат от Лейбористской партии и председатель комитета по социальной политике и правовым вопросам, который получил материал с вымышленными ссылками, сказала, что комитеты лучше понимают эту проблему. При этом она считает, что документы, созданные с помощью ИИ, не следует автоматически отбрасывать.

По её словам, выводы из материала с вымышленными ссылками не отличались от других свидетельств, представленных комитету. Если в документе встречается необычное или особенно важное утверждение, его нужно отдельно проверить и перейти к указанным источникам. Тогда быстро выяснится, существуют ли эти ссылки.

Миллер-Фрост добавила, что комитеты и их секретариаты теперь гораздо внимательнее относятся к подобным случаям. Однако некоторые из них получают огромные объёмы данных, поэтому проверить каждую ссылку бывает сложно.

ИИ при этом может помогать гражданам, которым иначе было бы трудно подготовить материалы для парламентского расследования. Часть документов поступает от агентств, учёных и государственных ведомств, располагающих значительными ресурсами. Но в сфере социальных услуг свои материалы также направляют обычные жители, у которых может не быть времени, возможностей и навыков, чтобы подробно изложить свою позицию.

Ответственность отправителя

Председатель Сената Сью Лайнс заявила, что депутаты, участвующие в парламентских расследованиях, всегда проверяют представленную им информацию. Однако за достоверность содержания отвечают люди, которые подают материалы.

По её словам, по мере распространения ИИ комитетские процедуры будут меняться. Доступность средств ИИ может увеличить число поступающих документов, что расширяет участие граждан, но одновременно усложняет их обработку и требует дополнительных ресурсов.

Комитеты также ясно указывают: если участник расследования понимает, что ранее представленные им сведения вводят в заблуждение, он обязан их исправить.

В рекомендациях Сената по подготовке материалов для расследований говорится, что использование ИИ может повлиять на качество информации, а ответственность за точность данных несёт отправитель.

В прошлом году консалтинговая компания Deloitte частично вернула деньги федеральному правительству после того, как выяснилось: средства ИИ добавили в отчёт стоимостью 440 000 долларов вымышленные ссылки, включая несуществующую ссылку на судебное дело.