Зачем покупают готовые среды
Среды для обучения с подкреплением — это симулированные миры, в которых модели отрабатывают определённые задачи: программирование, финансовый анализ или офисную работу. Среди американских поставщиков названы Mercor, Surge AI, AfterQuery и Turing.
Китайские лаборатории намеренно выбирают продукты, уже продававшиеся Anthropic или OpenAI. Так они могут опираться на проверенные данные и не тратить ресурсы на создание собственных сред и неудачные запуски обучения. Такая экономия особенно важна из-за острой нехватки памяти у китайских чипов.
Параллельно работает дистилляция: китайские лаборатории используют мощные американские модели, например GPT и Claude, как «учителей», превращая их ответы в примеры для обучения. В сочетании с купленными средами это позволяет сокращать отставание, располагая меньшими собственными вычислительными ресурсами.
Как устроены сделки
ChinaTalk сообщает как минимум о девяти американских компаниях, которые продают данные китайским заказчикам. По данным расследования, значительная часть годовой регулярной выручки AfterQuery поступает от клиентов из Китая. ChinaTalk ссылается на публикации Forbes, где выручка компании оценивается примерно в $100 млн, но самостоятельно подтвердить продажи не смогла.
Surge AI открыто пишет на своём сайте, что её продукты созданы теми же экспертами, которые работают над проектами для передовых лабораторий. Некоторые сделки проходят через зарубежные структуры: ByteDance поддерживает закупочные офисы в Сингапуре и Сан-Хосе.
О связях компаний стало известно благодаря анонимным источникам и слабой операционной безопасности подрядчиков, пишет ChinaTalk. Американские поставщики передают значительную часть работы по созданию сред и подготовке данных низкооплачиваемым работникам в развивающихся странах, особенно в Индии. Иногда подрядчики указывают имена клиентов в LinkedIn или резюме, хотя должны пользоваться только кодовыми названиями. Экспортный контроль почти не затрагивает эти сделки, поскольку среды для обучения с подкреплением в основном не регулируются.
Риски для кибербезопасности и биологии
Среды для программирования помогают совершенствовать разработку ПО, но могут также улучшать навыки проведения кибератак. Среды для биологии способны повышать возможности синтеза генов и потенциально помогать в задачах, связанных с биологическим оружием. Авторы ChinaTalk считают, что Бюро промышленности и безопасности США должно распространить действующие экспортные ограничения на такие среды двойного назначения.
При этом авторы не считают ситуацию катастрофической: китайские лаборатории, использующие наработки США, по структурным причинам всё ещё отстают от американских коллег как минимум на несколько месяцев. В американских передовых компаниях всё чаще самостоятельно разрабатывают чувствительные среды для биологии, химии, кибербезопасности, проектирования чипов и инвестиционного банкинга.
По оценке Dataist, расследование показывает, что контроль над обучающими данными не всегда совпадает с контролем над самими моделями: готовые среды тоже могут ускорять развитие конкурентов. Но масштабы риска зависят от области применения, а авторы указывают и на ограничение: чувствительные среды в ряде сфер американские компании уже создают внутри своих организаций.
Читайте также
Приложения, созданные с помощью Grok, раскрыли данные пациентов, пароли в открытом виде и воронку продаж SpaceXSI
Исследование: дата-центры для ИИ планируют строить собственные электростанции в огромных масштабах, несмотря на климатические риски
13-летняя школьница спросила ИИ о самоубийстве на школьном ноутбуке — тревогу не подняли несколько недель
Кризис в Nvidia заставил экспертов по корпоративному управлению достать попкорн
ИИ сделал оценку студенческих работ «почти невозможной», заявил регулятор высшего образования Англии
OpenAI и Anthropic ждёт новый надзор: в Нью-Йорке вступил в силу закон о безопасности ИИ
BotPsy: личный помощник на устройстве с агентной языковой моделью менее чем на 1 млрд параметров
Oura покупает стартап Counsel Health в сфере первичной помощи на базе ИИ за $625 млн
ИИ-агент Meta Muse появился на Apple Watch и часах с Android Wear OS
У ИИ-диджея Spotify появились новые голоса и характеры, а болтать он может меньше
Лазарь, выйди вон: как перепрограммировать спящие нейроны и внедрить бэкдор в ИИ-агента
Otter AI теперь распознаёт разговоры на более чем 30 языках
Любовь Албанизи к музыке дала трещину из-за ИИ. Сможет ли он сыграть по-новому?
OpenAI превращает ChatGPT в бизнес-каталог с ИИ-агентами, отвечающими на вопросы клиентов
OpenAI купила Odessia — туристический стартап основателя Sonder
PayPal добилась точности ИИ в 95% на той же языковой модели
GR00T 2 от Nvidia смотрит видео с людьми, а затем представляет себя роботом
PSI пытается превратить научные открытия с помощью ИИ в бизнес
Компания, публиковавшая фальшивые статьи спортивных журналистов в Sports Illustrated, стремительно рушится после масштабного ребрендинга с ИИ
Anthropic запустила Claude Meetings: обсуждения на работе превращаются в планы и задачи
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram