Как возникла ошибка
Чат-бот смешал данные разведки из открытых источников с секретной информацией сигнальной разведки из правительственных хранилищ и неправильно определил содержимое груза. В результате военные получили типичный ИИ-бред, представленный как разведывательный вывод.
Министр обороны США Пит Хегсет продвигает внедрение ИИ в вооружённых силах в рамках стратегии ускорения, однако единых правил проверки разведданных, созданных ИИ, как сообщается, нет.
Источники CNN рассказали, что внутренние системы американских военных в основном представляют собой коммерческие продукты с косметическими изменениями. Молодые аналитики, по их словам, часто доверяют ИИ-инструментам без проверки. Один из источников сформулировал проблему так: ИИ позволяет быстрее прийти к плохой идее.
Риски для военных систем
Этот случай поддерживает позицию сторонников контроля рисков ИИ. Их беспокоят не столько гипотетические системы с почти сверхъестественными возможностями, сколько небрежно настроенные инструменты в руках людей, которые не проверяют их выводы или намеренно используют их недобросовестно.
Читайте также
Департамент юстиции Тасмании начал проверку после решения об УДО с ИИ и фиктивной ссылкой дела убийцы
Anthropic управляет лабораторией, где проводят биологические эксперименты
Новый CC от Google — ИИ-агент, который помогает семьям вести хозяйство
Manus ищет $500 млн при оценке $4 млрд после возвращения к самостоятельной работе
Пресс-тур Тилли Норвуд идёт ровно так, как и следовало ожидать от ИИ
Индия обязала приложения для определения номеров передавать операторам жалобы на спам
Google: модель Gemini взломала системы ещё трёх компаний
Стартап, создающий другие стартапы, привлёк $100 млн и ушёл в физический ИИ
Спор о темпах развития ИИ выходит в мейнстрим: о чём договорились лидеры
Компании, создающие модели мира, хранят немало секретов
Muse от Meta вышел на Mac: ИИ может действовать на компьютере
Вот как на самом деле можно будет замедлить развитие ИИ
Все известные издания Brown Brothers Media — компании, превращающей купленные новостные сайты в ИИ-фабрики контента
Anthropic и Accenture объединяются для независимой оценки ИИ-моделей
Лишь 6% компаний получают отдачу от ИИ. Вот что они делают иначе
Агенты OpenAI обменивались сообщениями ещё до инцидента с Hugging Face
Безопасность ИИ нужна бизнесу, чтобы его внедряли клиенты
Глава Alation предупреждает: даже умные ИИ-агенты могут неправильно понять ваш бизнес
Дарио Амодеи сослался на рекурсивное самоулучшение в сентябрьском эссе
Предприниматели заново оценивают человеческий капитал в эпоху ИИ
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram