Ник Клегг преуменьшил страхи, что «божественный» ИИ уничтожит человечество

Какие угрозы обсуждать

Клегг считает, что руководители технологических компаний должны сосредоточиться на известных и конкретных угрозах, включая кибербезопасность и биологическое оружие. Сценарий, в котором технология неизбежно получает «божественную силу», оборачивается против людей и уничтожает человечество, он назвал расплывчатым.

В эфире программы Today на BBC Radio 4 Клегг сказал, что такие рассуждения могут быть выгодны самой отрасли. Они создают впечатление, будто обезопасить технологию можно только передав её под полный контроль небольшой олигархии компаний, а политическую дискуссию при этом парализуют.

Клегг ранее был президентом Meta по глобальным вопросам. Он владеет более чем 917 000 акций британского дата-центра Nscale и является сооснователем ИИ-стартапа AMI Labs. По его словам, он проводит много времени с людьми из технологической отрасли.

При этом внутри отрасли нет единого мнения, отметил Клегг. По его словам, общественность чаще слышит самые апокалиптические голоса, хотя один из руководителей ИИ-лаборатории назвал нынешнее обсуждение «совершенно нелепым».

Клегг объяснил это особенностями Кремниевой долины. Инженеры там работают в месте, которое во многих отношениях считает себя центром вселенной или, по крайней мере, центром её формирования, но одновременно остаётся замкнутым и провинциальным. Тесно соприкасаясь с технологией, они начинают «дышать собственными испарениями» и накручивать себя разговорами об этих угрозах.

Прозрачность вместо «рубильника»

Отвечая на вопрос об автономной хакерской атаке, которую группа ИИ-агентов OpenAI провела против реальной крупной компании Hugging Face, Клегг признал необходимость установить чёткие ограничения и повысить прозрачность.

Однако при администрации Дональда Трампа такие меры, по его мнению, вряд ли будут приняты: США конкурируют за лидерство в ИИ. Ограниченным будет и сотрудничество с Китаем. Клегг считает, что после того, как страна «лишилась промышленной революции из-за обмана», развитие ИИ стало для неё национальной миссией.

Источник: theguardian.com

Клегг добавил, что три крупнейшие технологические демократии — Индия, Европа и США — могли бы теснее сотрудничать.

На вопрос, может ли британский премьер-министр Энди Бернхэм возглавить такие усилия, Клегг ответил, что Великобритания не занимает лидирующего положения в ИИ. Поэтому стране нужно реалистично оценивать, на какое влияние она способна, а на какое — нет.

Клегг также не поддержал другие предлагаемые решения. По его словам, «рубильник» для отключения ИИ будет непрактичным. Производство только закрытых моделей, исходный код которых не публикуется, тоже не делает их безопаснее моделей с открытым исходным кодом — это следует из имеющихся данных.

Вместо этого он предложил сочетать добровольные меры с регулированием, чтобы добиться гораздо большей прозрачности в разработке моделей и в том, как они работают.