42 ведущих математика предупреждают: экзистенциальный риск ИИ реален и требует срочной реакции

В письме 42 математика, состоящих в Королевском обществе, призывают Британскую академию наук обратиться к правительству и средствам массовой информации. Ни один из подписантов не связан с компаниями, разрабатывающими ИИ.

За три месяца ведущие модели OpenAI и Anthropic решили несколько нерешённых исследовательских задач. Среди них была одна из семи задач тысячелетия; авторы письма отмечают, что вскоре, вероятно, будет решена и вторая.

По оценке математиков, теперь эти модели работают на уровне ведущих специалистов-людей во многих областях математики. Они также считают значительной вероятность того, что за такой же короткий срок модели разовьют сверхчеловеческие способности.

Математиков беспокоит не влияние ИИ на саму математику. Они предлагают исходить из того, что скорость роста его возможностей будет такой же и в других сферах:

Оценки лабораторий ИИ, согласно которым вероятность экзистенциального риска превышает 10%, нельзя списывать на «шумиху», считают авторы письма. Когда ситуация станет очевидной для широкой публики, действовать может оказаться уже поздно.