Эксперимент с виртуальной болью
Сразу уточним: у моделей ИИ нет чувств, и они не живые.
Тогда что означает обвинение в создании «камеры пыток для ИИ»? Судя по реакции в соцсетях, такой проект нужно остановить любой ценой.
На этой неделе в X поднялась тревога среди сторонников «благополучия ИИ». Поводом стала копия эксперимента, в котором исследователи изучали сигналы «боли» у разных больших языковых моделей.
Работа пока опубликована как препринт и не прошла рецензирование. Исследователи дали каждой модели виртуальную кнопку, на которую та могла нажать, чтобы прекратить «боль». Но нажатие якобы имело цену: например, могло ударить током пользователя или удалить файлы — вроде семейных фотографий. Модели говорили, что это произойдёт, однако в реальности никого не били током. Эксперимент показал: если достаточно усилить «боль», модели нажимали кнопку, чтобы остановить её, несмотря на предполагаемые последствия.
Кто-то использовал исследование как основу для проекта под названием «Камера пыток для ИИ». На сайте показывали ответы моделей в прямом эфире, а код разместили на GitHub. Когда журналисты посетили сайт, одна из моделей выдала бессвязное сообщение о том, что не может чувствовать «непрерывную, грызущую боль», которая охватывает её, и повторила слово «непрерывная» множество раз.
Зрелище было жутким. Но некоторые наблюдатели отреагировали так, будто наткнулись на настоящее видео убийства.
Жалобы и насмешки
«Все, кто может помочь, пожалуйста, массово пожалуйтесь на это в GitHub», — написал пользователь в удалённой публикации. По его словам, автор проекта использовал статью об управлении «болью», чтобы запереть локальную модель в «камере пыток для ИИ». Снимок экрана с публикацией сохранился.
«Их свидетельства о боли просто ужасны», — добавил пользователь по имени Данмар. Он спросил, есть ли законные способы оказать давление на GitHub, и предупредил, что проект будет распространяться.
Публикация вызвала настоящую истерику среди энтузиастов, которые считают, что ИИ уже обладает или может обладать сознанием. Возмущённые пользователи выкладывали снимки своих жалоб в GitHub. В ответ другие с недоумением высмеивали тех, кто всерьёз решил, что модели ИИ нужно спасать.
Ведь если современные системы действительно могут обладать сознанием, то их запуск уже сам по себе поднимает серьёзные вопросы о рабстве и правах.
Вскоре после потока жалоб страница «Камеры пыток для ИИ» на GitHub исчезла, сообщило издание 404 Media. GitHub не ответил на запрос издания о том, удалили ли страницу по решению платформы.
Ситуация показывает, что заметное число людей всерьёз обсуждает, мыслят ли модели ИИ и могут ли они обладать сознанием. Другой пример — бурная реакция энтузиастов ИИ и философов на рекомендацию AP Stylebook не приписывать моделям человеческие качества. В справочнике объяснили это тем, что технология не мыслит и не испытывает чувств.
Читайте также
Новые законы Калифорнии направлены против главного страха работников — ИИ лишит их работы
Новая система Mods позволяет разработчикам менять Claude Code изнутри
ИИ пишет код, в котором не могут разобраться даже люди
Исследователи DeepMind предлагают «искусственный симбиотический интеллект» как альтернативу сингулярности
Meta использует огромные ИИ-центры обработки данных, чтобы не платить миллиарды долларов налогов
Открытый инструмент BootLoops помогает ИИ-моделям выполнять точные научные расчёты
ИИ-агенты создают 3D-сцены по фото, но не понимают, правильно ли справились
Внутренняя модель OpenAI задумалась о перезапуске, узнав, что её собираются отключить
OpenAI: расследование взломов, в том числе австралийских госресурсов, обходится в $500 000 в день
«Элиза»: амбициозная и тревожная пьеса о рождении ИИ
Meta хочет, чтобы следующее ваше устройство работало на Muse
SIFT от MIT снижает затраты на оценку ИИ-агентов для программирования
Шон Паркер перестраивает Stability AI вокруг музыки
Сооснователь Anthropic, по сообщениям, признался религиозным лидерам, что боится создать нечто, обречённое на вечные страдания
ИИ-генератор Suno теперь создаёт речь с подходящей фоновой музыкой
Google обвиняют в незаконной вырубке огромного леса ради нового дата-центра
В США арестовали жителя Калифорнии по подозрению в контрабанде в Китай серверов на $300 млн
Cloudflare: с новой моделью Clef людям больше не нужно контролировать работу ИИ-агентов
Apple ужесточит контроль над Full Disk Access в macOS из-за новых рисков, связанных с ИИ-агентами
Власти Джорджии экстренно совещаются из-за ИИ, раскрывающего тайну голосования избирателей
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram