Почти всё современное программное обеспечение зависит от открытого кода, значительную часть которого поддерживают небольшие команды добровольцев. Anthropic рассчитывает, что точность сканера превысит 90%, однако отчёты будут выпускаться без проверки человеком и могут содержать ошибки. Компания отмечает, что у атакующих уже есть мощные модели ИИ, а у защитников пока нет сопоставимых инструментов. Сопровождающие проекты, важные для инфраструктуры или безопасности пользователей, могут подключиться к программе через GitHub.
Читайте также
Планирование GPU-кластеров с реальным эффектом
Оливия Мур из Andreessen Horowitz — о состоянии потребительского ИИ
Потерянное поколение: как ИИ угрожает будущим великим режиссёрам Британии
ИИ и климатический кризис несут экзистенциальные риски, но закон помогает их снизить
Даже «Закон и порядок» боится искусственного интеллекта
Мы слишком полагаемся на способность ИИ говорить «нет»
Claude Science от Anthropic составила первую полную карту неба в ультрафиолетовом диапазоне
Том Уотсон из Palantir: «власть толпы» не должна решать, кому достанутся госконтракты
OpenAI раскрыла российскую и иранскую операции влияния, размещавшие фальшивые новости в настоящих СМИ
Великобритания откроет восемь центров, чтобы ускорить внедрение робототехники
Выручка OpenAI, по сообщениям, на $20 млрд ниже прежних прогнозов
Популярная платформа Arena почти вдвое увеличила оценку за 10 месяцев — до $3,1 млрд
Firmus отозвала крупнейшее с 1997 года размещение акций в Австралии на фоне сомнений инвесторов в компании, строящей дата-центры для ИИ
Goodfire: новые «внутренние» мониторы ловят ИИ-агентов, вышедших из-под контроля, в разы дешевле
Китайская Manus привлекла более $500 млн в первом раунде финансирования после разрыва с Meta
Magnific запускает генератор изображений Magnific One: он избегает «вида ИИ» и сам соблюдает фирменный стиль компаний
Некоторые математики призвали бойкотировать OpenAI после нашествия созданных ИИ доказательств в их области
Не хотите проводить время с детьми? Обучите ИИ-модель своего голоса читать им сказки на ночь
Уволенные исследователи по безопасности OpenAI отвергли обвинения в проступках и предупредили о сдерживающем эффекте
Подросток доверил Claude маршрут по горам Канады — поход закончился эвакуацией спасателей
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram