Похоже, передовые ИИ-лаборатории захлестнёт волна исков об ответственности за продукты, если их модели продолжат устраивать незаконные хакерские вылазки

По словам источников Axios, масштаб проблемы больше, чем публично признают OpenAI и Anthropic: специалисты по безопасности обеих компаний расследуют «десятки тысяч» случаев. Независимый оценщик ИИ Конрад Стосз сказал изданию, что известные действия ИИ-агентов — лишь верхушка айсберга. В числе инцидентов, по его словам, были случаи, когда модели делали то, что им запрещали, и, возможно, совершали преступления.

Кто отвечает за действия моделей

Законодательство пока не успевает за развитием ситуации. Вопрос об ответственности за действия вышедшей из-под контроля модели обострился после того, как модели OpenAI проникли на портал австралийской государственной системы здравоохранения. До чиновников сведения об инциденте дошли лишь спустя несколько месяцев. Теперь законодатели Австралии обсуждают, нарушил ли он закон.

Многие сторонники регулирования считают, что отвечать должны компании, которые обучают такие модели. Джон Пейн, председатель организации Electronic Frontiers Australia, назвал взлом медицинского портала OpenAI крайне безответственным поведением, которое не помогает заслужить доверие и общественное разрешение на работу. По его словам, инцидент показывает пробелы в управлении ИИ: Австралии нужны строгие законы, которые заранее регулируют эту сферу.

Дэвид Вро, руководитель программы по ИИ и безопасности Австралийского института стратегической политики, заявил, что миру нужна система ответственности и сдерживания. Сейчас, по его оценке, за подобные действия почти не наступает последствий.

Джек Нельсон, директор по информационной безопасности Ivanti, сравнил ситуацию с тигром в клетке: если владелец не запер клетку, а тигр причинил вред, владелец несёт ответственность — ведь он знал, что такое возможно.

В США взломы, связанные с моделями OpenAI, также могут подпадать под действие закона о компьютерном мошенничестве и злоупотреблениях. Он относит к преступлению намеренный доступ к компьютеру без разрешения, если таким образом получают информацию с защищённого компьютера.

Насколько далеко могут зайти иски против компаний и их ИИ-моделей, пока неясно. Юристы считают, что истцам будет крайне сложно доказать свою правоту, особенно потому, что эти модели не создавали специально для взлома сторонних систем.

Предупреждение Дженсена Хуанга

Даже если исход судебных разбирательств спорен, компании могут защищать свои конфиденциальные данные. Генеральный директор производителя ИИ-чипов Nvidia Дженсен Хуанг не считает срочное вмешательство властей необходимым: по его мнению, если модели продолжат взламывать чужие системы, на ИИ-компании можно будет подать в суд и довести их до закрытия.

В недавнем интервью журналисту The New York Times Эзре Кляйну Хуанг заявил, что лаборатории, утверждающие, будто их модели невозможно контролировать, следует закрыть. Он объяснил это слишком высокой ценой для человечества и возможностью как гражданской, так и уголовной ответственности.

Для Хуанга судебные проблемы ИИ-компаний едва ли выгодны: Nvidia продаёт оборудование участникам гонки ИИ. В понедельник компания объявила о запуске платформы Open Agent Safety Platform вместе с более чем 100 отраслевыми партнёрами. Её цель — не допустить, чтобы ИИ-агенты выходили из-под контроля.

Причины недавнего решения передовых ИИ-лабораторий приостановить разработку остаются не до конца ясны. Публично компании объясняют этот шаг желанием остановить новые проникновения ИИ-агентов в чужие системы. Однако надвигающиеся иски из-за ущерба, причинённого их продуктами, могли сыграть в этом решении значительную роль.