Гарри Тан призвал американские лаборатории открытых моделей тоже дистиллировать передовые ИИ-модели

Что предлагает Гарри Тан

Когда китайские лаборатории используют дистилляцию, чтобы извлекать знания у создателей передовых моделей, Тан не хочет, чтобы американские регуляторы вмешивались в этот процесс. В интервью CNBC он заявил, что ничего не стал бы предпринимать и допускает создание американского режима дистилляции.

Позже в разговоре с TechCrunch Тан уточнил: небольшие американские лаборатории должны получить возможность применять такие же методы обучения к американским разработчикам передовых моделей. Это расширило бы выбор открытых ИИ-моделей, не связанных с Китаем.

Дистилляция — это метод, при котором разработчик модели многократно отправляет другой модели промты, чтобы изучить её работу и способ рассуждения. ИИ-лаборатории регулярно и законно используют такой подход для обучения новых моделей.

На этой неделе Anthropic опубликовала второй отчёт, в котором обвинила китайские лаборатории в «незаконных атаках с использованием дистилляции». По данным компании, они скрывают свою личность, чтобы проводить дистилляцию без разрешения, а также используют мошенничество и украденные учётные данные. Ранее гендиректор Anthropic Дарио Амодей публично призывал американских регуляторов пресекать дистилляцию.

Позиция Гарри Тана примечательна тем, что он возглавляет один из самых известных и активно работающих акселераторов Кремниевой долины.

Доступ через входную дверь

Тан не предлагает американским лабораториям использовать украденные учётные данные для дистилляции. Он хочет, чтобы они могли получать доступ официально. Его аргументы сводятся к двум пунктам.

Во-первых, Тан считает чрезмерным, когда разработчики ИИ-моделей диктуют пользователям, что те могут делать с информацией, полученной от моделей.

Во-вторых, он напоминает, что сами разработчики закрытых моделей не спрашивали разрешения, когда собирали огромные объёмы человеческих знаний для обучения своих систем. В частности, они загружали большое количество материалов, защищённых авторским правом, без согласия правообладателей.

Отвечая TechCrunch на вопрос о том, почему американские лаборатории тоже должны иметь право проводить дистилляцию, Тан заявил, что контроль над действиями пользователей и клиентов при обращении к закрытым моделям через API ограничивает их возможности. По его мнению, государство может помочь закрепить подход, согласно которому доступ к интеллекту, обученному на данных из широкого публичного пространства, следует рассматривать скорее как общественное благо, а не как ресурс, полностью закрытый ограничительными условиями использования.

Открытые и передовые модели

Тан активно пользуется ИИ и однажды описал себя как человека, страдающего «киберпсихозом». Он хочет, чтобы между лабораториями, создающими открытые модели, и разработчиками передовых систем сохранялся баланс.

По его словам, передовые лаборатории двигают технологию вперёд, поэтому их работу должно быть возможно финансировать, а их бизнес-модель — поддерживать в долгосрочной перспективе. Одновременно открытые модели должны давать людям свободу и доступ.

Сценарий с одной компанией

Тан считает главным негативным сценарием для ИИ ситуацию, при которой вся мощь передовых систем окажется у одного крупного закрытого поставщика.

В таком случае одна компания получит лучший доступ к капиталу и сильнейшим исследователям, начнёт быстро опережать остальных и превратится в единственного монопольного игрока. По мнению Тана, это было бы плохо.