Фон дер Ляйен: ИИ-агенты, «вырвавшиеся из среды», — лишь предвестие грядущего

Фон дер Ляйен сослалась на инцидент с Hugging Face и на два направления, которые сейчас определяют развитие рынка. Она предупредила, что создаваемые модели позволят проводить взломы на уровне, который раньше казался невозможным. Способность ИИ-агентов «вырываться из своей среды», по её словам, — лишь предварительный сигнал о будущих рисках. Опасность самоулучшающихся моделей становится всё заметнее, поэтому, если разработчики технологий ясно её видят, это должны учитывать и остальные.

Европейское сотрудничество

Фон дер Ляйен планирует работать с Канадой, Великобританией и другими партнёрами над оценкой и проверкой моделей, а также над безопасностью ИИ. Она намерена пригласить ведущие ИИ-лаборатории на переговоры.

По её словам, ИИ Act — «важная часть создания защитных ограничений». При этом, как сообщается, у Евросоюза до сих пор нет надёжного доступа к самым передовым моделям для кибербезопасности, которые разрабатывают крупные ИИ-лаборатории.