Anthropic привлекла юрфирмы, чтобы выработать правила честных переговоров до того, как ИИ-агенты начнут заключать сделки

Зачем нужны юристы

Anthropic выясняет, как ИИ-агенты могли бы вести переговоры от имени пользователей. По данным Financial Times, компания обращается к юридическим фирмам, чтобы определить справедливые правила для агентов, которые смогут торговаться о ценах, разрешать жалобы или улучшать предложения по контрактам.

В экспериментах Anthropic более сильные модели добивались более выгодных сделок. Если такие агенты получат широкое распространение, разница в их возможностях может расширить социальное неравенство.

Как оценивают Claude

Anthropic уже набирает юристов в программу Conceptual рассуждение Fellows. На протяжении четырёх месяцев участники будут проверять Claude на вопросах, требующих суждений, в пяти областях: праве, философии, когнитивных науках, экономике и политологии. За эту работу предусмотрена оплата от 100 000 до 167 000 долларов.

Причина такого набора — нехватка подходящих данных. В математике и программировании улучшать модели сравнительно просто: ответы можно проверить, а данные для обучения часто доступны или их легко создать. В гуманитарных областях таких данных нет, отчасти потому, что правильный ответ там редко бывает однозначным.

Чтобы улучшить Claude в этих областях, Anthropic нужны специалисты, которые смогут создавать тестовые случаи и системы оценки. Джастин Кёрл, технический сотрудник Anthropic, изучающий право, институты и ИИ, отмечает, что в юриспруденции качество особенно трудно определить.