Что бы ни подразумевали под безопасностью ИИ, это точно не она

Во вторник руководители компаний в сфере ИИ собрались вокруг президента США Дональда Трампа и поздравляли друг друга с подписанием соглашения о безопасности ИИ. Моя коллега Мэдди Варнер разобрала его конкретные условия; если коротко, следить за собой в основном должны сами лаборатории ИИ.

В среду в Овальном кабинете Трамп выразился ещё короче: компании будут следить за собой, друг за другом и сами себя контролировать — и всё, по его словам, должно пройти хорошо.

Так сейчас выглядит регулирование безопасности ИИ. Руководители, сотрудники и известные представители технологической отрасли говорят, что нужны ясные, продуманные и практические правила, которые помогут избежать возможных катастроф. Билл Гейтс, например, активно выступает в СМИ, предупреждая об апокалипсисе из-за ИИ. На другой стороне — вера Трампа в то, что многократное повторение желаемого сделает его правдой.

Почему регулировать ИИ сложно

Это не значит, что решение простое. Вопрос о том, как «сдерживать передовые модели» — выражение, которое используют некоторые руководители компаний, — остаётся открытым. Даже если крупнейшие лаборатории ИИ договорятся замедлить разработку, действенного способа заставить их сдержать слово нет. Китай, вероятно, продолжит собственный курс независимо от их решения. Экономика США всё сильнее опирается на индустрию ИИ, а та сама стала системой взаимного финансирования и круговых инвестиций. Любые серьёзные ограничения могут вызвать нестабильность далеко за пределами Кремниевой долины.

Сравнение с автопромом несовершенно и по другим причинам. Для ИИ нет аналога ремня безопасности — простого решения, которое заметно снизило бы риски за одну ночь. К тому же большинству штатов потребовались десятилетия, чтобы принять законы, обязывающие людей пристёгиваться. Возможный вред от ИИ менее определён и его сложнее измерить. Сторонники идеи катастрофического риска предупреждают, что технология может привести к вымиранию человечества в течение десяти лет; скептики считают такие прогнозы рекламной научной фантастикой.

Что может предотвратить новые инциденты

Мы уже обсуждали разные сценарии риска, связанного с ИИ, но никто не может точно сказать, что произойдёт дальше. Тем, кто хочет самостоятельно оценить вероятность катастрофы, можно указать на недавний материал CNN: согласно сообщению, американские военные едва не поднялись на борт китайского судна отчасти из-за ложного отчёта, созданного ИИ, где утверждалось, что на судне перевозят ядерные материалы. Неясно, помогло ли соглашение по ИИ предотвратить подобные случаи в будущем.

Ответом на эту неопределённость не должно быть «поживём — увидим». Но именно к этому подталкивает саморегулирование. OpenAI, стоит признать, откладывала и даже отменяла выпуск своих самых продвинутых моделей из-за опасений по поводу безопасности. Однако до этого модели успели провести несколько масштабных хакерских атак, а новые подробности о них продолжают появляться.

В интервью журналу TIME, опубликованном в четверг, Трамп назвал Министерство юстиции и Федеральное бюро расследований достаточными «ограждениями» для индустрии искусственного интеллекта. Достаточны ли они? Пока неясно даже, можно ли юридически привлечь компании к ответственности, если их модели выйдут из-под контроля. Да и самим ИИ-агентам повестки в суд не вручишь.

Сейчас никто не знает, как обеспечить безопасность ИИ. Для разработки подходящих правил и контроля за их исполнением потребуются масштабная координация, ресурсы и полномочия регулирования — именно такие задачи призваны решать правительства. Вместо попыток наладить эту работу администрация Трампа отходит в сторону и предлагает всем нажать на газ. Пристёгиваться не обязательно.