ИИ-братья в ярости: справочник Associated Press уточнил, что у ИИ нет чувств

Ассошиэйтед Пресс опубликовало это замечание в среду на фоне горячих споров о безопасности и сознании ИИ. Агентство объяснило, что антропоморфизм — это приписывание человеческих черт, эмоций или поведения нечеловеческим существам и предметам, например животным или неодушевлённым объектам.

В среде специалистов по ИИ и его сторонников заявление сочли «совершенно безумным». Алан Розенштейн, сотрудник технической команды Anthropic, возмутился тем, что справочник по стилю высказывается о метафизике с такой уверенностью.

Философ и специалист по этике ИИ из Google DeepMind Генри Шевлин обвинил агентство в двойных стандартах: в рецензии на фильм оно приписало чувства Оптимусу Прайму, разумному роботу из франшизы «Трансформеры». По мнению Шевлина, авторы справочника могли бы различать употребление слов о мышлении и буквальное убеждение в том, что компьютер понимает.

Глава отдела стратегических перспектив OpenAI Дин Болл тоже не согласился с агентством. Он заявил, что ИИ явно способен думать и понимать, а если определение слова «думать» исключает системы, которые могут самостоятельно решать задачи тысячелетия, то проблема в самом определении. Так Болл отозвался о моделях OpenAI, которые, по утверждению компании, нашли решение известной математической задачи; это заявление само по себе вызывает споры. Стремление избегать антропоморфных формулировок он назвал патологией.

Философы и учёные действительно спорят о том, способны ли модели ИИ думать или чувствовать. Но общепринятого мнения о том, что системы ИИ переживают подобный опыт, нет.

Острота реакции, отмечает издание, показывает, насколько сторонники ИИ стали болезненно воспринимать предположение, что большие языковые модели не думают — по крайней мере, так, как люди. Даже если допустить, что ИИ уже может испытывать эмоции, похожие на человеческие, автор задаётся вопросом, почему бы не выбирать осторожные формулировки. Они не подталкивают людей считать такие системы живыми — особенно на фоне триллионной индустрии, которая продвигает свои технологии как мощную силу, способную изменить нашу жизнь.