Источник: techcrunch.com
В публикации Наделла написал, что пора остановиться и оценить архитектуру доверия к ИИ. Термин «сверхинтеллект» он использовал как предпочтительное для администрации Трампа обозначение ИИ.
Наделла считает, что нужно разделить модель и оболочку, которая организует её работу, а средства контроля и защиты сделать внешними. Каждое значимое действие модели, по его предложению, следует фиксировать в защищённой от подделки записи, понятной человеку. Кроме того, уполномоченный человек должен иметь возможность приостановить или выключить модель прямо во время выполнения задачи.
Наделла высказался на фоне сообщений ведущих компаний об участившихся случаях, когда они, судя по всему, теряли контроль над своими моделями. Ранее генеральный директор Anthropic Дарио Амодей опубликовал план более осторожного развития ИИ.
Читайте также
Apple раскрыла сделку по найму команды и лицензированию технологий стартапа персонализированных подкастов Huxe
Одна из последних уцелевших в США каштановых рощ может вскоре исчезнуть ради ИИ-дата-центра
Пользователи Mac стирают с устройств все следы Apple Intelligence
OpenAI: сбившаяся с курса модель намеренно разрушила собственную среду, рассчитывая начать заново с лучшими данными
Умники из Anthropic заявили, что с помощью Claude «решили» задачу юмора
Microsoft вступила в борьбу за быстрорастущий рынок ИИ-моделей для принятия решений с Decision-1
Ведущие новостных каналов заговорили о скором крахе пузыря ИИ
ИИ всё лучше сбивает киберпреступников с толку
За ИИ платят немногие, но тратят они много
Глава Института Алана Тьюринга: Великобритания не должна зависеть от зарубежного ИИ
Google Gemini 4 «Carbon», по сообщениям, сравнялась с Opus 5.5 от Anthropic в программировании
Anthropic не может надёжно контролировать ИИ-агентов и отключает внутренние проверки от открытого интернета
Разработчика нетекстовой ИИ-модели Jev оценили в $7,5 млрд спустя всего несколько недель после запуска
H-JEPA учит модели мира строить планы на разных уровнях абстракции
Мы не можем не очеловечивать ИИ. Но стоит ли?
Модель Anthropic сообщила полиции Филадельфии о несуществующем убийстве
Стартап Flock, разрабатывающий ИИ-слежку, сократит сотни сотрудников на фоне критики, сообщают источники
Книжные издательства всё чаще тайком используют ИИ — сотрудники бунтуют
OpenAI готовится к народному бунту после катастрофы, вызванной ИИ, — Axios
Как Danu Robotics пытается создать более совершенного робота для переработки отходов
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram