Anthropic назвала среди участников атак китайские компании Zhipu и Moonshot. По утверждению компании, Zhipu извлекала возможности ведущих американских моделей в области кибербезопасности для своей модели GLM-5.3, а Moonshot тайно перенаправляла запросы через Claude. Украденные возможности могут оказаться в зарубежных военных системах и системах наблюдения.
Теперь Anthropic ограничивает доступ к внутренним шагам рассуждения Claude, использует классификатор для выявления попыток извлечения данных и автоматически блокирует отмеченные аккаунты. Компания уже заблокировала десятки тысяч аккаунтов. Anthropic призывает других разработчиков ИИ внедрить похожие меры, хотя признаёт, что под блокировки попадают и добросовестные пользователи.
Читайте также
«Незавершённое дело»: люди хотят, чтобы их ИИ-чат-боты «жили» после их смерти
Крупнейшая сеть суперкомитетов в поддержку ИИ влила миллионы в компании-однодневки в Неваде
ИИ-лаборатории покупают данные закрывшихся стартапов, чтобы обучать модели
Крестный отец ИИ Джеффри Хинтон: «Мы создаём инопланетных существ. Я готов быть эгоистом и выбрать людей»
Акции производителей чипов падают после сравнения инвестиций в ИИ с игрой в казино главой Broadcom
МВФ: обвал акций ИИ-компаний угрожает мировой финансовой стабильности
Стартап Blueprints AI утверждает, что за минуты создаёт чертежи, готовые к подаче на разрешение на строительство
Honeyjar предлагает каждой компании ИИ-инструменты для PR и коммуникаций
Илон Маск похвастался наборами LEGO по «Звёздным войнам» от Grok — пользователи X его разыграли
Самосовершенствующаяся модель Sakana AI лучше решает задачи и оценивает ответы, но не замечает собственных слепых зон
WindBorne получила крупный контракт ВВС США на поставку данных с метеозондов
ИИ-агенты могут вести себя непредсказуемо. Слой управления — нет.
Muse Wonder возвращает Meta в число лидеров ИИ-разработок
Очистка истории чата помогает ИИ-агентам находить лучшие решения
Симулируя обучение учеников, можно улучшить ИИ-тьюторов
Брэд Смит считает, что Великобритания лучше других подходит для регулирования ИИ
Microsoft планирует к 2027 году нарастить мощности собственных ИИ-чипов Maia до нескольких гигаватт
«Антиутопия и унижение»: вот каково было проходить собеседование с ИИ-ассистентом
Белый дом передумал и вернул британскому Институту безопасности ИИ доступ к передовым моделям
Бывший руководитель Plaud привлёк $26 млн на ИИ-приложение, которое слушает вас в фоновом режиме
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram