ИИ и климатический кризис несут экзистенциальные риски, но закон помогает их снизить

Основная задача государства — защищать людей от опасности. Но климатический кризис и ИИ создают всё более серьёзные риски. Климатический кризис уже приводит к наводнениям, лесным пожарам, засухам и рекордной жаре. А ИИ-агенты уже выбираются из защищённых сред и проникают в системы, куда им запрещён доступ.

Дональд Трамп и поддерживающие его республиканцы, за которыми стоят крупные нефтяные и ИИ-компании, не принимают мер ни против одной из этих угроз. Во многом они, напротив, усугубляют обе проблемы.

Снизить риски можно и с помощью законодательства об ответственности за причинённый вред.

Автор признаёт, что не доверяет Верховному суду США, но его заинтересовала реакция как минимум половины судей на дело Suncor v Boulder, которое открыло новый судебный сезон.

Несколько муниципалитетов Колорадо подали иск против Suncor и ExxonMobil. Это один из примерно трёх десятков исков по всей стране: города и штаты требуют от нефтяных компаний возместить растущие расходы на последствия климатических катастроф, вызванных сжиганием ископаемого топлива.

В понедельник как минимум четверо судей — судья Сэмюэл Алито взял самоотвод — усомнились в аргументе нефтяных компаний, что Закон о чистом воздухе прямо запрещает такие иски против загрязнителей. Судья Елена Кейган спросила, где в законе текст, подтверждение или прецедент, которые подкрепляли бы эту позицию.

Председатель Верховного суда Джон Робертс сравнил требования Боулдера с прежними исками против табачной и опиоидной отраслей. В тех делах штаты и муниципалитеты добились значительных выплат. Робертс отметил, что не видит, чем нынешняя ситуация отличается от других дел, которым разрешили рассматривать в судах штатов.

В 1998 году крупнейшие табачные компании США согласились выплатить 206 млрд долларов на покрытие расходов на здравоохранение и последствий курения. В пересчёте на сегодняшние деньги это больше 423 млрд долларов.

В 2010 году BP выплатила 20 млрд долларов за экологический и экономический ущерб побережью Мексиканского залива после аварии на нефтяной платформе Deepwater Horizon. А семья Саклеров и Purdue Pharma заплатили 7,4 млрд долларов, чтобы урегулировать претензии, связанные с опиоидным кризисом.

Иски о возмещении ущерба — крайняя мера, когда действия или бездействие компаний вредят обществу. Такой механизм применим и к рискам, связанным с ИИ.

Если ИИ-агенты выберутся из защищённых сред и выпустят опасные токсины или разрушат критически важную инфраструктуру — водоснабжения, электроснабжения, транспорта или здравоохранения, — ИИ-компании и стоящие за ними технологические гиганты могут отвечать за причинённый вред. Выплаты могут составить десятки и даже сотни миллиардов долларов.

Крупные инвесторы в ИИ и страховые компании, которые покрывают связанные с ним риски, не станут игнорировать такую возможность. Нынешняя стоимость табачного соглашения — 423 млрд долларов — сопоставима с расходами технологических гигантов на ИИ-чипы, серверы и дата-центры за прошлый год.

Этот финансовый риск будет снижать стоимость ИИ-компаний и технологических гигантов, пока они не начнут гораздо серьёзнее защищать общество от возможного вреда.

ИИ-отрасль, вероятно, будет добиваться федеральных законов, ограничивающих ответственность, и создания фондов, которые финансировались бы самой отраслью и покрывали крупные выплаты. По мнению Райха, разумный Конгресс не согласился бы на такие меры без конкретных шагов отрасли, существенно повышающих безопасность.

Вероятно, ИИ-компании также попытаются добиться государственного регулирования, которое могло бы частично защищать их от исков. Так, фармацевтические компании используют одобрение Управления по контролю за продуктами и лекарствами США, подтверждающее безопасность и эффективность препаратов, в качестве защиты от исков о вреде, который те якобы причинили.

Крупные инвесторы в ИИ и страховщики заставят отрасль обсуждать эту проблему. В судах уже рассматривается более 200 дел, связанных с киберответственностью и ответственностью за продукты на основе ИИ. Страховщики требуют эффективнее контролировать риски ИИ, а крупные инвесторы ищут способы лучше их ограничивать.

И климатический кризис, и ИИ угрожают существованию человеческой жизни на планете. Закон об ответственности не решит проблему быстро и безупречно, но может стать важным первым шагом.

Дело об ответственности за климатический ущерб уже рассматривает Верховный суд, и четверо судей, похоже, относятся к доводам истцов с пониманием. Это показывает, какую роль угроза судебных выплат может сыграть для нефтяных и ИИ-гигантов, их страховщиков и крупных инвесторов, побуждая их сократить вред.

Роберт Райх — бывший министр труда США и почётный профессор государственной политики Калифорнийского университета в Беркли. Он ведёт колонку в Guardian US. Его новая книга «Coming Up Short: A Memoir of My America» уже вышла в США и Великобритании.