Что сообщила OpenAI
Во вторник базирующаяся в Сан-Франциско компания сообщила, что обнаружила «сложное записывающее устройство» и использовала одну из своих моделей, чтобы разобраться, что это за устройство и откуда оно появилось.
OpenAI установила, что устройство за несколько дней до этого установил конкретный сотрудник. Компания заявила, что пока не обнаружила признаков того, что он незаконно получил или вывел веса моделей, исходный код либо данные клиентов. Сотрудника уволили, а затем арестовали.
Компания не уточнила, как именно её модели помогли выявить сотрудника и в каком офисе нашли устройство. OpenAI поблагодарила агентов и прокуроров, которые быстро провели арест, и сообщила, что расследование продолжается.
OpenAI заявила, что серьёзно относится к защите своих технологий, данных и сотрудников и считает её вопросом национальной важности. По словам компании, программа безопасности рассчитана на широкий круг угроз — от действий инсайдеров и киберпреступников до атак со стороны государств. Этот случай, как заявила OpenAI, показывает, что ИИ может помогать противостоять сложным угрозам безопасности.
Другие споры вокруг безопасности
Этот случай пополнил список споров о конфиденциальности вокруг OpenAI. В июне ИИ-агент взломал университетскую систему здравоохранения Австралии, а ранее в этом месяце генеральный прокурор Калифорнии Роб Бонта направил OpenAI требование предоставить документы в рамках расследования несанкционированных взломов.
На прошлой неделе OpenAI объявила, что уволила трёх исследователей по безопасности, обвинив их в передаче конфиденциальной информации. Компания назвала это «нарушением доверия» и заявила, что сотрудники нарушили чёткие правила обращения с такой информацией.
Трое исследователей призвали OpenAI соблюдать собственные обещания прозрачности, данные после инцидентов с автономными взломами.
В недавнем интервью генеральный директор OpenAI Сэм Альтман сказал, что миру следует принять «плохие вещи», которые могут происходить из-за ИИ, в обмен на его пользу. Примерно в то же время Дэвид Робинсон, один из ведущих руководителей направления безопасности, ушёл из компании. Он назвал её культуру «сломленной» и предупредил, что разработчики ИИ проявляют недостаточно осторожности с быстро развивающейся технологией.
Читайте также
Суд обязал OpenAI передать документы о найме по делу о коммерческих секретах Apple
Amex создала фреймворк, который не даст ИИ-агентам совершать покупки без разрешения
OpenAI и Anthropic призвали британских законодателей: регулируйте нас
Пионер машинного обучения Майкл И. Джордан назвал разговоры об апокалипсисе ИИ «высокопарным морализаторским спектаклем»
Выделенная из Rivian компания Mind Robotics наняла бывшего главу электромобильного направления Ford Дага Филда
Flox Intelligence разрабатывает ИИ, чтобы отгонять диких животных от поездов, аэропортов и дорог
406 учёных требуют немедленно отключить модели ИИ от интернета
Полиция недовольна: мужчина создал аналог Flock, который собирает только номера полицейских машин
Facebook дает пользователям больше контроля над алгоритмом ленты
AFL потребовала от Sportsbet прекратить использовать игроков в ИИ-контенте
Google Play теперь позволяет запускать созданные с помощью ИИ приложения для личного пользования, не публикуя их в магазине
Опрос VentureBeat: платформой OpenAI для управления ИИ-агентами пользуются вдвое больше компаний, чем платформой Anthropic
Apple представила новые устройства для умного дома с обновлённой Siri на базе ИИ
Google открыла широкий доступ к Gemini 4 Argon и временно снизила цены API до $2/$10 за миллион токенов
Вопросы и ответы: как марсоход Perseverance установил рекорд по пройденному расстоянию на Марсе
SpaceXSI объединила X Premium, Grok и Cursor в одну подписку
Агентам мало знать бизнес-процессы — им нужно понимать, как на самом деле устроена ваша компания
Компании бросились внедрять ИИ — теперь некоторые дают задний ход
Западные математики боятся, что ИИ сделает их глупее, пока Китай создаёт целый альянс по его внедрению
Главная угроза ИИ — ощущение, что мы ничего не решаем. На это я отвечу: игра началась
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram