Надбавка за человеческое

Как меняется человеческая ценность

Много лет разговор об искусственном интеллекте сопровождался тихой тревогой: что именно ИИ у нас заберёт?

Работу? Значимость творчества? Интеллектуальный авторитет?

ИИ уже умеет быстро писать код и тексты, искать информацию, анализировать данные и создавать изображения. Логика казалась простой: чем шире возможности машин, тем меньше пространства остаётся человеку.

Но постепенно проявляется другой сценарий.

Если миллионы людей могут за несколько секунд создавать качественные тексты, программы, исследования, анализы и изображения, сама способность делать такую работу становится менее отличительной. Редким ресурсом оказывается то, что каждый человек способен привнести в результат лично.

На первый план выходят:

ИИ выравнивает доступ к интеллектуальным инструментам. Когда мощными системами пользуются все, человеческие различия могут стать главной ценностью.

Чтобы понять, куда движется эта ценность, автор поговорил с четырьмя людьми из совершенно разных областей.

Интеллект не определяет ценность

Сначала нужно отказаться от давнего представления о том, что именно сделало людей особенными.

Мы привыкли считать интеллект одним из главных человеческих преимуществ. Людей выделяли способность рассуждать, считать, изобретать и решать задачи лучше других существ. Тесты IQ, результаты SAT и академические достижения стали основными способами оценивать человеческий потенциал.

Затем машины начали превосходить нас в некоторых занятиях, которые раньше служили доказательством нашего превосходства.

Доктор Stephen Cave, директор Центра Леверхалма по изучению будущего интеллекта при Кембриджском университете, считает, что технологический шок заставляет заново пересмотреть философские основания человеческой ценности.

По его словам, представление о том, что люди уникальны благодаря своему интеллекту, в прошлом столетии столкнулось сразу с двумя проблемами. С одной стороны, люди создали всё более умные машины, способные побеждать их в интеллектуальных играх вроде шахмат. С другой — учёные лучше поняли способности других видов: впечатляющие когнитивные задачи выполняют не только шимпанзе и дельфины, но также осьминоги, вороны и даже муравьиные колонии.

Это открытие становится кризисом лишь в том случае, если ценность строится на иерархии интеллекта, где человек находится на вершине.

Cave указывает: если люди ценны потому, что они самые умные, значит, более умные люди должны цениться выше? С этим он не согласен. Если ценность определяется тем, что отдельные люди написали великие симфонии или разработали глубокие математические теории, должны ли остальные считаться менее ценными? По его мнению, тоже нет.

Человеческую ценность не следует связывать с каким-либо отдельным качеством — интеллектом или любым другим. Такая связь сразу создаёт иерархию: наверху оказываются те, у кого этого качества больше. Вместо этого нужно признать внутреннюю ценность каждого человека независимо от его свойств и навыков.

Возможно, ИИ не уменьшает значение человечества, а заставляет заново спросить, в чём оно вообще состоит.

Что становится важнее

Если интеллект больше не является главным человеческим преимуществом, возникает практический вопрос: какие качества будут цениться выше в мире, который создаёт ИИ?

Машины могут почти мгновенно объединять знания и выдавать ответы. Поэтому знание самого ответа становится менее отличительным, а умение понять, что именно нужно спросить, — более ценным.

Sir Geoff Mulgan, автор готовящейся книги «Коллективная глупость» (издательство Принстонского университета, 2027), профессор коллективного интеллекта в Университетском колледже Лондона и бывший старший советник правительства Великобритании, предупреждает: растущая зависимость от автоматизированных ответов может ослабить способности, которые понадобятся людям больше всего.

По наблюдению Mulgan, мир сталкивается с воображаемым кризисом — кризисом воображения. Людям легко представлять технологическое будущее или экологические катастрофы, но гораздо труднее — позитивные сценарии для общества, здравоохранения, социального обеспечения и демократии. По его мнению, ИИ может ухудшать эту важную человеческую способность.

Чем больше размышлений мы передаём алгоритмам, тем меньше тренируем собственное критическое мышление.

Mulgan отмечает признаки когнитивного снижения: показатели IQ, результаты школьных тестов, а также оценки взрослой математической и читательской грамотности, по-видимому, падают. Из-за этого ИИ-инструментам становится проще манипулировать людьми и вводить их в заблуждение. Поэтому особенно важно восстанавливать человеческие способности к критическому мышлению и умение задавать вопросы ИИ.

Человеческая премия связана не с обработкой информации как таковой. Её основа — скептицизм, самостоятельный поиск и способность по-новому сформулировать проблему.

Остаётся вопрос, учим ли мы людей думать в мире, где ИИ присутствует повсюду.

Ошибка как источник смысла

В студии Sougwen Chung абстрактный разговор об искусственном интеллекте получает физическое воплощение.

Chung, художница и участница TIME100 ИИ, рисует на холсте вместе с многоосевыми роботизированными манипуляторами. Ими управляют нейронные сети, обученные на собственных рисунках художницы, созданных за два десятилетия.

Генеративный ИИ отлично создаёт отполированные результаты. Но Chung интересует менее совершенный процесс: что происходит, когда неожиданность вынуждает человека реагировать.

В технологической разработке ошибку обычно воспринимают как дефект. Искусство научило Chung смотреть на неё иначе. Когда её первая рисующая машина отклонилась от симуляции, ошибка стала подарком: она дала художнице возможность адаптироваться. Без этого отклонения система лишь повторяла бы её собственные жесты. Именно несовершенства сделали работу интереснее.

Значение имеет не сама ошибка машины, а реакция человека на неё. Chung переживает сбой, интерпретирует его и решает, что он означает.

По её словам, интуиция в выступлении — это способность в реальном времени ответить на неожиданность и сделать так, чтобы незапланированный штрих обрёл смысл.

Художница указывает и на другое человеческое измерение, которое программное обеспечение не может воспроизвести: длительность и воплощённость в теле.

Когда изображение создаётся мгновенно, меняется наше отношение к нему: любой человек может получить тысячу картинок за минуту. Но автоматически создать длительность или телесный опыт нельзя. Время, проведённое внутри процесса создания штриха, связано с ремеслом напрямую. Оно включает решения, принятые телом и физической интуицией, основанной на собственном ощущении времени.

Изображение может появиться за две секунды. В искусстве Chung есть другое содержание: время, потраченное на работу, физические решения, ошибки и реакция человека на них.

Личный опыт как отличие

Если распространить идею Chung о телесном опыте на всю человеческую жизнь, мы придём к главному источнику различий между людьми — прожитому контексту.

Большие языковые модели обучались на огромных массивах текстов, изображений и кода, созданных людьми. Но у модели никогда не было детства.

Она никогда не влюблялась и не теряла близкого человека. Не входила в комнату с ощущением, что ей здесь не место. Не рисковала пережить унижение, не сталкивалась с ограничениями собственного тела, не растила ребёнка, не эмигрировала в другую страну, не теряла работу, не меняла мнение и не думала о том, что о ней скажут другие.

Эти переживания нельзя считать неэффективностью человеческого мышления. Это контекст.

Когда миллионы специалистов используют одни и те же базовые модели, их результаты рискуют становиться всё более похожими. Отличие создаёт то, что человек приносит машине и чего в ней прежде не было.

ИИ как протез разума

Здесь в историю входит Viktoria Modesta.

Автор недавно пригласил на своё шоу «ИИ для лучшего мира» Viktoria Modesta — бионическую художницу, футуриста и бывшего участника Лаборатории средств массовой информации Массачусетского технологического института.

Всю карьеру Modesta оспаривала представление о том, что протез должен лишь заменять утраченную часть тела. Она превратила бионическую ногу в узнаваемый символ художественного самовыражения, идентичности и будущих возможностей человека.

В искусственном интеллекте она видит похожую идею.

Modesta сравнивает ИИ с технологией, которая поддерживает человека, усиливает его и восполняет пробелы в памяти. Если воспринимать ИИ как протез разума, можно расширить человеческие способности в новом масштабе.

Физический протез не стирает индивидуальность человека, который им пользуется. Он расширяет его возможности. По мнению Modesta, ИИ стоит представить так же.

Тогда ИИ становится не только функциональным инструментом, но и средством выражать намерения, эмоции и стремление изменить собственную жизнь и окружающий мир.

Modesta приводит простой пример последствий, которые возникают, когда человеческое намерение перестаёт управлять технологией. Если у двадцати человек резюме созданы с помощью одних и тех же моделей, в них не остаётся смысла и различий. Поэтому важны собственные идеи, личный опыт и та перспектива, которую этот опыт даёт человеку.

Конкурентный вопрос меняется. Важно уже не только, насколько хорош ваш ИИ, но и что именно вы приносите в него такого, чего нет у других.

Вывод

Вместе эти четыре взгляда описывают «человеческую премию» — не меру человеческой ценности, а набор качеств, которые, вероятно, будут становиться важнее по мере того, как возможности машин становятся доступнее.

Отказываться от ИИ для этого не нужно.

Преуспеют те, кто научится соединять возможности машин с другим важным ресурсом — всё более отличающимся от других человеческим взглядом.

В течение большей части эпохи ИИ люди спрашивали, как не отстать от машин.

Победить ИИ в том, чтобы быть ИИ, невозможно, да и стремиться к этому не следует.

Возможность заключается в другом: развивать качества, которые отличают людей, — задавать вопросы, до которых никто больше не додумался, превращать ошибку в идею, принимать сложные решения, заслуживать доверие другого человека и приносить к проблеме опыт целой жизни, которой у машины никогда не было.

Не менее важно понять, что именно не стоит передавать ИИ.

В мире, где искусственный интеллект доступен всем, самым редким преимуществом в итоге может оказаться то, что никто другой не способен привнести в него: