Психолог из Гарварда призвал сосредоточиться на практической безопасности ИИ, а не на риторике конца света

Пинкер считает, что сценарии вроде «максимизатора скрепок» — ИИ, который жертвует человечеством ради производства скрепок, — смешивают интеллект со стремлением к господству. Такие сценарии также предполагают, что ИИ-системы маниакально сосредоточатся на одной цели.

Раньше Пинкер уже оптимистично высказывался об ИИ. Теперь он признаёт, что недооценил, насколько способными станут большие языковые модели, и не ожидал, что компании будут выпускать свои продукты настолько безрассудно. По иронии, гонку возглавляют люди из того же сообщества, которое предупреждает об этих рисках.

Серьёзными опасностями Пинкер считает биотерроризм, кибератаки и бесконтрольных ИИ-агентов. Апокалиптическая риторика с ними не справится, пишет он. По его мнению, нужны инженерные меры безопасности, основанные на независимом надзоре, ответственности и контроле со стороны человека.

В июне Александер изложил свою позицию в блоге. Он оценивает вероятность того, что ИИ уничтожит человечество, в 20 процентов и выступает за более активные исследования безопасности и международные соглашения, которые замедлят развитие ИИ.