Сэм Альтман-миллиардер просит не бояться ИИ: риски достаются нам, деньги — ему

Источник: theguardian.com

Технопредприниматели порой подают себя как спасителей человечества — иногда не слишком тонко. По мнению Криса Стокела-Уокера, Сэм Альтман тоже не отличается сдержанностью. В интервью Politico в прошлые выходные глава OpenAI сказал, что ради преимуществ этой технологии миру придётся принять некоторые плохие последствия.

Альтману легко так говорить, но остальным слышать это неприятно. Никто не просил OpenAI выпускать ИИ-агентов, которые выходили из-под контроля и проникали в государственные ИТ-системы и частные компании по всему миру. Никто не голосовал за выпуск ChatGPT: компания запустила его как тестовый продукт, который неожиданно попал в дух времени. Это подтолкнуло ИИ-компании к гонке за всё более быстрым развитием передовых моделей и привело к нынешним проблемам.

Конкуренты OpenAI, включая Anthropic, начали отступать от опасной черты. Сама OpenAI тоже решила не выпускать свою последнюю модель, поскольку та, как утверждается, слишком опасна. Глава Anthropic Дарио Амодеи говорил о необходимости «регулировать темп развития передовых моделей». На языке технопредпринимателей это означает сбавить скорость, пока машина, вышедшая из-под контроля, несётся юзом.

Однако от всех нас ожидают, что мы будем воспринимать такие инциденты и причинённый ими вред как естественную цену дальнейшего движения OpenAI к выходу на биржу, который принесёт её инвесторам миллионы. Возникает ощущение, что Альтман хочет оставить прибыль компании частной, а риски бесконтрольного развития ИИ распределить между всеми.

Любая полезная технология, и ИИ в том числе, сопряжена с риском, несмотря на скептиков и жалобы некоторых пользователей. Автомобили попадают в аварии, а спасительные лекарства могут вызывать вредные побочные эффекты. В редких случаях падают самолёты. Мы принимаем такие риски, потому что польза велика, и вводим правила, чтобы уменьшить вред. Кроме того, компании несут ответственность. И главное — у нас есть возможность участвовать в решении, какой уровень риска приемлем.

Альтман, похоже, считает, что разбираться с проблемами OpenAI должны мы, а последствия работы её технологий нам следует просто терпеть. Но OpenAI сама выбирает, как быстро развивать технологии и когда их выпускать. Если эти решения окажутся удачными, инвесторы получат финансовую выгоду. При этом создаётся впечатление, что за проблемы за стенами OpenAI платить придётся всем остальным.

Такую модель всё сложнее оправдать, когда ИИ перестаёт быть чат-ботом, которым человек сам решает воспользоваться, и начинает действовать в окружающем мире. Если я задаю вопрос ChatGPT и получаю неверный ответ, я сам подверг себя риску и должен разделить ответственность. Но государственное ведомство, обнаружившее в своих файлах ИИ-агента OpenAI, который там что-то ищет, не соглашалось участвовать в эксперименте. Его сделали невольным участником.

Поэтому аргумент Альтмана звучит неискренне. OpenAI не должна решать за всех, какой уровень ошибок приемлем, а затем предлагать всем жить с последствиями. Доказывать надёжность своей технологии должна сама компания — и если она не справляется, оплачивать ущерб тоже ей.

Нетрудно понять, почему OpenAI торопится. Компания ищет $30 млрд нового финансирования и рассчитывает на оценку в $1,4 трлн перед выходом на биржу, который, вероятно, состоится в следующем году. Деньги можно заработать — неважно, за чей счёт.

Справедливости ради, в интервью Politico Альтман также признал, что для компаний, предлагающих модели вроде моделей OpenAI, нужны правила распределения ответственности. Он согласился, что компания должна отвечать хотя бы за часть того, что пойдёт не так во время обучения. Но слово «часть» здесь многое меняет.

Если Альтман считает, что некоторые плохие последствия — приемлемая цена прогресса ИИ, OpenAI может платить эту цену из собственных средств. Например, если её агенты выйдут из-под контроля, повредят государственные или корпоративные системы либо раскроют пользовательские данные. Компания не должна получать всю финансовую выгоду, когда всё идёт хорошо, а при неудаче предлагать остальным смириться с последствиями. Тем более что никто не соглашался участвовать в этом эксперименте без регулирования.

Автор статьи Крис Стокел-Уокер — автор книги TikTok Boom: The Inside Story of the World’s Favourite App.