Как устроена система
О находке сообщает GTIG AI Threat Tracker. Обнаруженный сервер был доступен извне, а установленный на нём фреймворк exploit_agent обращался к нескольким языковым моделям. Он автоматизировал всю цепочку: анализировал изменения в программном коде после выхода исправлений, выявлял уязвимости, разрабатывал способы их эксплуатации и запускал атаки.
Комментарии на русском языке в файлах конфигурации позволяют предположить, что оператор говорит по-русски. Данные сервера также указывают на французские сайты в сферах СМИ, развлечений и образования как на цели атак.
Скорость против скрытности
GTIG называет появление таких атак важным рубежом: впервые компания наблюдала полностью автоматизированный поиск уязвимостей и их эксплуатацию без участия человека. При этом автоматизация пока работает на скорость в ущерб скрытности. Атаки оставляют следы, которые могут помочь специалистам обнаружить их при расследовании.
По оценке Dataist, автоматизация уже охватила не только поиск уязвимости, но и запуск эксплойта. Однако обнаруженные следы дают специалистам возможность выявлять такие атаки; Google предупреждает, что подобные системы будут быстро развиваться.
Читайте также
Дженсен Хуанг пытается вернуть себе контроль над Nvidia
OpenAI направит исследователей по безопасности изучать, как ИИ обходит защитные меры компании
Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей?
Moonshot AI переводит Kimi с программирования на науку: прогресс в тестах замедляется
Дженсен Хуанг, как утверждается, намеренно создавал дефицит видеокарт ради роста прибыли
Qwen4-Max от Alibaba конкурирует с Opus 5.5, GPT-6 и Kimi K3.1 Pro, предлагая гораздо более низкие цены
Доклад Nexus Project: алгоритм Instagram продвигает антисемитский контент
Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами
TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов
Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит»
Надёжный ИИ строят не на прогнозах, а на ограничениях
Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML
Audible использует ИИ, чтобы помочь слушателям находить аудиокниги
ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ
Исследование под эгидой ООН: модели ИИ «слабы и ненадёжны» в вопросах климатологии
Смогут ли роботы перенести операции при инсульте в удалённые больницы?
США ужесточают экспортный контроль над ИИ-чипами, чтобы не дать китайским компаниям удалённо получать доступ к вычислительным мощностям
Бывшие руководители Freshworks привлекли $53 млн, чтобы бросить вызов Salesforce и HubSpot с AI-Native CRM
Apple запустила приложение, чтобы изучить, как люди используют ИИ для здоровья
Индийский стартап Bharat Semi привлёк $24 млн на посевном раунде и метит на мировой рынок ИИ-сенсоров
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram