ИИ может нас уничтожить — мы лишь безразлично цепенеем. Как выйти из нигилизма?

Представление о будущем как о почти безнадёжном сценарии в этом году незаметно стало частью общего настроения.

Недавно автор встретилась за кофе со старым другом. Он рассказывал, какую специальность его дети хотят выбрать в университете, но вдруг замолчал, посмотрел в пустоту и сказал, что хотел бы никогда не иметь детей.

Он был отцом 20 лет, и раньше автор не слышала от него ничего подобного. Он очень любит своих детей, но в тот момент выглядел совершенно подавленным.

Причиной могло быть любое из тревожных последствий развития ИИ. Возможно, он думал, что ИИ отнимет у его детей работу, оставив их без достатка, цели и смысла. Или его тревожило воздействие ИИ на окружающую среду: расход воды и энергии усилит климатический кризис и сделает планету непригодной для жизни. Но друга напугала именно новость о том, что ИИ может «убить всех людей» в течение следующих 10 лет.

Они немного и без особого интереса обсудили угрозу уничтожения человечества, а затем перешли к другой теме. Но ощущение надвигающейся тени осталось. Автор задумалась, не оказался ли совокупный кризис настолько масштабным, что у людей больше нет сил говорить о нём срочно и всерьёз. Он просто присутствует в воздухе, как загрязнение, где каждая частица несёт свой сценарий конца света, а единственным способом существовать в такой атмосфере становится эмоциональное оцепенение.

Сейчас через этот странный и мрачный период люди воспринимают многие решения из прошлого и планы на будущее.

Для людей среднего возраста это может выглядеть как сожаление о том, что они стали родителями. Или как сомнение в том, стоит ли продолжать работать, если нормальной пенсией всё равно не удастся воспользоваться.

Для молодых это невозможность выбрать университетскую специальность или профессию, потому что через несколько лет они могут устареть. Или вопрос, стоит ли отказываться от многого и копить огромный первоначальный взнос на дом, если не будет нормальной работы и будущего, позволяющего выплачивать ипотеку 30 лет.

Для пожилых это благодарность за то, что им, вероятно, не придётся увидеть, как всё окончательно распадается.

Из нынешнего нигилизма есть несколько выходов, и технологии их не предложат.

Проснуться

Если кто-то действительно пытается вас убить — например, ворвался в дом и напал, — вы обычно сопротивляетесь.

Но известие о том, что ИИ может привести к исчезновению человечества, люди встречают с безразличием, похожим на оцепенение.

Стоит помнить: никто не просил создавать ИИ, но он внезапно оказался рядом и теперь, как считается, может нас уничтожить. Даже если эту угрозу удастся предотвратить, ИИ уже внедряется в рабочую и эмоциональную жизнь людей. GPT может стать крупнейшим поставщиком услуг в сфере психического здоровья в США. Одновременно ИИ снижает способность к критическому мышлению и угрожает экономической и социальной стабильности.

Почему перед лицом пока ещё предотвратимой угрозы люди остаются настолько безучастными?

Возможных объяснений несколько:

Вернуться к первым принципам

Следующий шаг после пробуждения — вернуться к основам и спросить, что именно нужно человеку для полноценной жизни. Если сформулировать это, получится своего рода верёвка, которая поможет вернуться туда, где мы должны находиться.

Полноценная человеческая жизнь не сводится к тому, чтобы передать машине способность думать за нас. Она предполагает удовольствие и труд самостоятельного поиска решений.

Она включает отношения между людьми, в которых мы заботимся друг о друге и поддерживаем друг друга. Разговоры с большой языковой моделью о личных проблемах по 18 часов в день не могут заменить такие отношения.

Она также предполагает прямую связь с природой — а не с её изображением на экране и не с природой, которую уничтожают и истощают, освобождая место для жизни, всё больше зависящей от экранов.

За это стоит бороться. Технологиям есть место в человеческом мире, но когда появляется угроза его уничтожения, люди должны проснуться, сбросить оцепенение и начать сопротивляться.