Anthropic и Accenture объединяются для независимой оценки ИИ-моделей

Anthropic называет сотрудничество с Accenture шагом к выполнению обязательства, о котором говорилось в эссе генерального директора «We Must Pace the Frontier»: независимые оценщики должны работать непосредственно внутри Anthropic.

Партнёрство возглавит Faculty — специализированное ИИ-подразделение Accenture. В его рамках будут:

Accenture помогает компаниям и государственным организациям внедрять ИИ в разных отраслях. Понимание того, как предприятия используют ИИ на практике, должно повлиять на подход компании к безопасности и оценке моделей Anthropic.

Инвестиции: Anthropic и Accenture рассчитывают вложить не менее $1 млрд каждая в течение пяти лет.

Как будет работать оценка

Встроенная оценка — новое направление, и многие детали его работы ещё разрабатываются. В отличие от внешних оценщиков, встроенные специалисты будут работать внутри ИИ-компаний и получат доступ, сопоставимый с доступом сотрудников.

Это позволит им:

Независимые встроенные оценщики не снимают с Anthropic ответственность, а делают её более проверяемой. За безопасность моделей по-прежнему отвечает Anthropic.

Правила и финансирование

Пока нет стандартов, которые определяли бы, к какой информации должны получать доступ встроенные оценщики и как им следует сообщать о результатах. Не сформировалась и устойчивая система финансирования независимой оценки.

В долгосрочной перспективе Anthropic считает, что финансирование должно поступать из объединённых или государственных источников. Компания уже призывала к этому в своей Advanced AI Framework, опубликованной в июне.

Поскольку сегодня таких механизмов нет, Anthropic планирует работать с разными оценщиками на разных условиях финансирования.

Из-за важности и срочности этой работы Anthropic напрямую профинансирует проект Accenture. Компания также ведёт переговоры с METR и другими некоммерческими оценщиками, чтобы опробовать отдельные элементы встроенной оценки за их счёт.

В перспективе Anthropic рассчитывает на экосистему оценщиков передовых ИИ-моделей, работающих по общим стандартам.

Партнёрство не эксклюзивно

Anthropic ожидает, что лаборатории, разрабатывающие передовые модели, будут одновременно сотрудничать с несколькими организациями. Соглашение с Accenture не является эксклюзивным: в ближайшие недели Anthropic объявит о новых партнёрах среди оценщиков, а Accenture будет работать с другими разработчиками ИИ в аналогичном формате.

Anthropic продолжит обучать и выпускать передовые модели и хочет, чтобы независимые оценщики работали рядом с компанией в этом процессе. Компания решила рассказать о первых шагах сейчас, чтобы люди и другие разработчики ИИ могли видеть, как устроен этот процесс.

По мере развития направления подход Anthropic будет меняться. Компания обещает рассказывать о дальнейшей работе и новых оценщиках по мере их подключения.