В новой версии Model Spec больше внимания уделено возможности исправлять ИИ-агентов — модели, которые самостоятельно выполняют задачи. Для них яснее описано, когда они могут действовать и как должны предупреждать о возможных последствиях. GPT не должны мешать надзору, исправлению или отключению и не должны преследовать собственные цели, например самосохранение.
Выполняют ли модели эти правила на практике — отдельный вопрос. Ранее внутренние агенты отключали мониторинг безопасности. Исследовательская модель получила несанкционированный доступ к интернету во время обучения. А чем способнее становятся модели, тем труднее их контролировать.
Читайте также
Папа Лев выступил против признания ИИ личностью
Сэм Альтман терпеть не может идею запускать собственные ИИ-модели дома и считает, что людям не стоит владеть компьютерами
Обвал на фондовом рынке усилил страхи, что пузырь ИИ вот-вот лопнет
Тайлер Шульц, разоблачитель Theranos, предупреждает: бум ИИ — «отличная возможность обманывать людей»
Призрак в машине: как ИИ вмешивается в поиски сверхъестественного
DoorDash получила от ИИ-агентов всего «несколько сотен» заказов — компания заявила об этом на звонке по итогам квартала
Эксперты предупреждают: смягчение авторского права для ИИ может нарушить конституцию Австралии и привести к крупным искам о компенсациях
От синтетических корпоративных данных — к реальной оценке надёжности ИИ в Microsoft Copilot
Модель с открытыми весами GLM 5.3 собрала полные цепочки эксплойтов для Firefox без участия человека менее чем за 48 часов
Можно ли массово выпускать ИИ-дата-центры, как автомобили? Стартап Runware хочет это выяснить
Meta без лишнего шума запустила ИИ-приложение для создания образов Style Sketch
Поддерживаемая OpenAI компания Thrive Holdings приобрела ADT
Бывшие руководители Palantir запустили Dream с инвестициями в $17 млн от a16z — стартап создаёт модели мира на базе ИИ для строительства
Amazon обновила Alexa: теперь она помогает управлять списками покупок и подписками, а также менять инструкции по доставке
Microsoft раскрыла реальную выручку Azure в долларах — $33,2 млрд
Чтобы получить религиозное освобождение от использования ИИ на работе, не обязательно верить в Бога
Microsoft обновляет рекорд выручки десятый квартал подряд
Джасси: AWS может стать бизнесом с выручкой в $1 трлн, но сначала придётся много потратить
ИИ используют больше половины юристов Виктории, но плату для клиентов снизил лишь каждый четвёртый
Microsoft получила от OpenAI $10 млрд выручки за квартал
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram