О’Каллаган считает, что вред от ИИ может перевесить пользу. Среди рисков он перечисляет когнитивную капитуляцию, психоз и одиночество, вызванные ИИ, концентрацию власти, экономические потрясения, угрозы кибербезопасности и отсутствие ответственности. По его словам, многие коллеги из DeepMind разделяют эти опасения, но редко говорят о них публично.
В качестве следующего шага О’Каллаган хочет заниматься работой, которая однозначно служит людям.
Он также дал ссылку на книгу Элиезера Юдковски и Нейта Соареса «If Anyone Builds It», но не поддержал утверждение авторов, что создание сверхразумного ИИ неизбежно приведёт к катастрофе. Юдковски и Соарес связаны с движением эффективного альтруизма — его критикуют за то, что оно предпочитает благотворительность перераспределению средств.
По данным Axios, в служебной записке Белого дома движение описано как маргинальная группа, похожая на культ. В записке также критикуют генерального директора Anthropic Дарио Амодеи, называя его лицом «обречёнческого» взгляда на развитие ИИ.
Читайте также
Некоторые клиенты Supabase открыли в интернете данные тысяч людей
Апелляционный суд разрешил Пентагону признать Anthropic риском для цепочки поставок
Microsoft снова перекраивает Copilot: добавляет агента Autopilot и оплату по использованию
Гендиректор Nvidia: ИИ-компании засудят, если передовые модели продолжат творить ужасное
Папа Лев предупредил об угрозе ИИ человечеству в начале трёхдневного визита во Францию
ИИ-проект Stargate Трампа в серьёзной беде: дата-центр за $18 млрд катится к забвению
Её осудили за убийство, которого она, по её словам, не совершала. Потом галлюцинации ИИ заставили её замолчать
Функция Google «Позвони за меня» позволяет Gemini звонить в компании вместо вас
Агент Muse от Meta даёт каждому пользователю полноценный облачный компьютер с Ubuntu Linux
Глава Nvidia Дженсен Хуанг: он готов заплатить за ИИ умами наших детей
Комики превращают тревогу об ИИ в шутки: «Он так хорош, что изменит реальность»
Ум обходится недёшево: ИИ повышает расходы АНБ, больниц и страховщиков
Microsoft обновила Copilot: постоянный агент Autopilot и хостинг приложений, созданных ИИ
Запуск «крупнейшего ИИ-суперкомпьютера» Британии отложили из-за проблем с энергоснабжением
Anthropic заключила с Akamai облачную сделку на $11,6 млрд — расходы на вычисления превысили $500 млрд менее чем за год
Пентагон хочет получить $30 млн на создание детектора лжи с ИИ
Создатель Ruby on Rails Дэвид Хайнемайер Ханссон больше не пишет код вручную
Все знают: без движения страдает тело. А что зависимость от ИИ делает с мозгом?
Белый дом требует: новые модели OpenAI и Anthropic — сначала США, потом британцам
Албанезе отверг «чепуху» о сокрытии взлома Medicare OpenAI — лейбористы меняют законы
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram