О системе Anthropic первой рассказала газета American Prospect. Журналисты поговорили со старшими сотрудниками службы безопасности компании и изучили опубликованные вакансии, чтобы понять, как устроена эта сеть наблюдения.
Помимо отслеживания протестов возле офисов Anthropic, лаборатория, по данным издания, использует подход, напоминающий профилактику преступлений до их совершения: пытается заранее обнаружить признаки возможных гражданских беспорядков.
В качестве примера American Prospect приводит случай, о котором рассказали руководители операций безопасности Anthropic Кион Эллисон и Зак Мелвин вместе с генеральным директором компании по обнаружению угроз Samdesk Джеймсом Нойфельдом.
В прошлом году один из руководителей Anthropic приехал в крупный город, когда Samdesk передала компании сведения о запланированном протесте. Затем из-за путаницы с разрешениями полиции акцию перенесли на час раньше. Samdesk сообщила об изменении примерно за 60 минут до начала.
Этого времени, по словам Эллисона, хватило, чтобы руководители не вышли со встреч прямо в центр протестной активности. Ситуация, которая могла привести к напряжённому столкновению, была смягчена благодаря раннему обнаружению угрозы и передаче информации службе безопасности.
Anthropic не только пытается предсказывать протесты. Компания также сообщала полиции о разговорах пользователей с чат-ботом Claude. На фоне призывов усилить защитные ограничения для больших языковых моделей такой подход выглядит необычно.
Как в августе сообщила San Francisco Standard, Anthropic передала полиции Сан-Франциско данные о мужчине, который написал Claude, что держит винтовку и что генеральный директор компании Дарио Амодеи находится у него «на прицеле». Однако при обращении к полиции района залива Anthropic отказалась предоставить журнал переписки. Как отмечает American Prospect, компания фактически сообщила на мужчину, не предъявив конкретных подтверждений нарушения.
Менеджер службы безопасности Anthropic объяснил цель системы переходом от реактивного сбора информации к упреждающему, прогнозному и профилактическому управлению угрозами. По его словам, такой уровень организации операций нужен для защиты особо важных целей в любой отрасли.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram