Ведущий исследователь безопасности ИИ заявил, что перестал копить на пенсию, потому что уверен: мы все погибнем

Во время записи подкаста Soares пояснил, что сейчас не откладывает на пенсию. У него остался пенсионный счёт 401(k), открытый, когда он работал в Google, но взносов на него он не делал уже десять лет.

По оценке Soares, вероятность вымирания человечества из-за ИИ в ближайшие десять лет превышает 50%. Это смелый прогноз — и, судя по его словам, исследователь старается не допустить такого исхода.

«Я делаю всё, что могу, чтобы это предотвратить», — сказал Soares. При этом он не считает катастрофу неизбежной.

Споры о рисках ИИ

В исследовательской среде Soares известен мрачными прогнозами о будущем ИИ. В Machine Intelligence Research Institute он работает ближайшим соратником Элиезера Юдковски. Их тревожные прогнозы помогли им получить заметное внимание СМИ, заключить книжные сделки и напрямую общаться с политиками.

Критики отмечают, что, хотя Soares и Юдковски много говорят об угрозе катастрофы из-за ИИ, единого мнения о том, возможен ли такой сценарий, нет — тем более о его вероятности.

У пессимизма по поводу ИИ есть основания. Технологию уже использовали для бомбардировки учеников начальной школы, мошенничества против пожилых людей и доведения десятков уязвимых пользователей до самоубийства. Для этого ИИ не нужно быть сверхразумным. Если сосредоточиться только на возможном вреде в будущем, легко упустить ущерб, который технология причиняет уже сейчас.

Что касается пенсионных накоплений, безопаснее продолжать откладывать деньги, чем рисковать и потом жалеть об упущенной возможности. Если ИИ всё-таки уничтожит человечество, накопления уже не будут иметь значения.