Как работает FlashProve
FlashProve создаёт проверяемое доказательство того, что результат получен от определённой модели. По замыслу разработчиков, это будет похоже на цифровую подпись электронного письма: получатель сможет проверить, кто именно отправил сообщение, а пользователь — какая модель сформировала ответ.
Система должна противостоять подмене одной модели другой. В том числе она может помешать лаборатории, которая создала и запустила модель, незаметно заменить её более дешёвой, чтобы сократить расходы, или более дорогой — чтобы завысить показатели.
FlashProve также может помочь проверять заявления сторонних компаний о том, какая модель выполнила задачу. Например, разработчик может утверждать, что проверил библиотеку программного обеспечения на уязвимости с помощью передовой модели для кибербезопасности. Компания — что её бизнес-план одобрила подходящая модель. Система должна дать пользователю возможность проверить такие утверждения.
Отпечатки без раскрытия весов
Для работы FlashProve лабораториям нужно публиковать «отпечаток» каждой выпущенной модели. Его можно будет сопоставить с конкретным результатом и проверить криптографически.
Отпечаток не раскрывает веса модели — внутренние числовые параметры, которые определяют её поведение. Их сохраняют в тайне, в частности, Anthropic и OpenAI. Поэтому лаборатории смогут публиковать отпечатки, не раскрывая веса, и применять систему в том числе к коммерческим моделям.
Разработчики также проектируют FlashProve как лёгкую систему, чтобы проверку можно было проводить на локальном устройстве.
Исследование продолжается
Вместе с объявлением исследователи выложили на GitHub подробную техническую спецификацию и рабочий код для разных частей системы. Материалы доступны по лицензии с открытым исходным кодом.
Разработка FlashProve продолжается. Anthropic подчёркивает, что опубликованные результаты отражают промежуточную работу, а не завершённую исследовательскую программу. Компания не объявляла о планах внедрять систему ни у себя, ни в других лабораториях; исследователи надеются, что другие специалисты изучат опубликованные материалы и смогут их улучшить.
По оценке Dataist, FlashProve предлагает способ проверять происхождение ответов, не раскрывая веса коммерческих моделей. Пока это исследовательская разработка: сроков внедрения нет, а её практическая применимость зависит от того, будут ли лаборатории публиковать отпечатки своих моделей.
Читайте также
«Крестный отец» ИИ Джеффри Хинтон: возможно, людям было бы лучше без ИИ
Ballistic Ventures Теда Шляйна ищет $490 млн на новые фонды на фоне бума кибербезопасности, подпитываемого ИИ
Google: пользоваться поиском без ИИ невозможно
OpenAI: GPT-6 Astra спроектировала устройство с нуля меньше чем за неделю
За рекордным кварталом Palantir скрывается тревожный сигнал
Развитие больших языковых моделей опережает исследования, призванные его объяснить, выяснили учёные
ИИ-стартап Fal удвоил оценку до $16 млрд на фоне растущего спроса
Сэм Альтман хвастается: ИИ уже умнее самых выдающихся учёных-исследователей
Новая вкладка Netflix на базе ИИ подберёт, что посмотреть, под настроение
Anthropic представила инструмент, с которым начальник может следить за вашими чатами с Claude
ИИ-агенты управляют телескопом Allen Telescope Array и ищут внеземной разум
За покорностью звёзд ИИ-компаниям стоит мрачная причина
Google отключит поиск для школ, запрещающих ИИ
Apple ограничила доступ к приложениям для знакомств и ИИ-компаньонам пользователям от 18 лет
OpenAI наняла бывшего министра армии США, расширяя поддержку обеих партий перед выборами в Конгресс
Все больше признаков того, что ИИ сокращает занятость на рынке труда
Nvidia подталкивает облачных клиентов к сокращению бизнеса с Китаем
Message Threads от Anthropic сокращает время до первого токена на 35% в длинных диалогах
Самая грязная электростанция Британии может запитать крупнейший в стране ИИ-центр обработки данных
Как «обратная теория игр» может удержать ИИ-агентов в рамках
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram