i
Новости
Новости · 2026-11-16

Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей?

Dataist Dataist

Anthropic, разработчик Claude, выходит на биржу с оценкой в $1,4 трлн. В компании утверждают, что её необычная система управления поможет сочетать прибыль с безопасной разработкой ИИ. Основатели вместе контролируют 50,1% голосов, а независимый Long-Term Benefit Trust назначает четырёх из семи директоров и должен следить за тем, чтобы интересы человечества не уступали коммерческим. Однако пока неясно, сможет ли траст спорить с основателями по вопросам безопасности и рассказывать об этих разногласиях публично.

Обложка: Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей?

Как устроено управление Anthropic

Принцип «одна акция — один голос» долго считался основой корпоративного управления: большинство владельцев компании могло отстранить руководителей, которые плохо справлялись со своей работой или нарушали правила. Но с появлением Google, ныне Alphabet, и Facebook, ныне Meta, вернулись компании с разными классами акций и неравными правами голоса.

Их основатели объясняли такую систему важностью миссии: основатели должны иметь возможность принимать рискованные решения и не отвлекаться на краткосрочные требования обычных акционеров. Snap, компания, которой принадлежит Snapchat, пошла дальше: она выпустила акции вообще без права голоса, обосновав это стремлением «переизобрести камеру».

В Anthropic власть распределена между двумя центрами, и обычные акционеры не контролируют ни один из них:

Семь основателей вместе имеют один голос, которому принадлежит 50,1% итоговой голосующей силы. Коллективное голосование должно заставлять их искать согласие.
Long-Term Benefit Trust — независимый от финансовых интересов траст. Он назначает четырёх из семи директоров и должен следить за балансом между заработком и пользой для человечества. Среди попечителей — Бен Бернанке, бывший председатель Федеральной резервной системы США.

Кроме того, Anthropic зарегистрирована как корпорация общественной пользы. Этот статус отражает обещание компании разрабатывать ИИ ответственно и безопасно.

$1,4 трлноценка при выходе на биржу
50,1%голосов у основателей
4 из 7директоров назначает траст

У такой модели есть два обоснования. Первое: система Anthropic, возглавляемой Дарио Амодеи, устроена сложнее, чем простая попытка основателей удержать власть. Поддержка Long-Term Benefit Trust, по всей видимости, должна создать своего рода конституционный баланс.

Второе: у Anthropic может быть больше оснований отступить от равенства прав акционеров, чем у большинства компаний. В документах к выходу на биржу говорится, что разработка ИИ может нести «катастрофические или экзистенциальные риски для человечества». Речь идёт о возможных последствиях ИИ, а не о развлекательных видео Snap.

Кто проверяет толкование миссии

Система пока не проверена на практике. За обещаниями ответственного управления может скрываться замкнутая конструкция, которая сводится к доверию руководству, пусть и оформленному сложнее.

Стюарт Риддик, менеджер по устойчивым инвестициям в Aberdeen, обращает внимание на разницу между поддержкой миссии и согласием с тем, как её понимают руководители и воплощают в жизнь директора.

Мустафа Сулейман, генеральный директор подразделения ИИ Microsoft, признавал серьёзное отношение Anthropic к безопасности ИИ, но при этом подробно критиковал её взгляды на так называемое «благополучие моделей». По его мнению, модели ИИ не следует обучать вести себя так, будто у них есть права или сознание.

Пока трудно понять, как подобные споры будут решаться внутри системы управления Anthropic. Это станет яснее, если Long-Term Benefit Trust начнёт отстаивать свою независимость — или откажется это делать.

Что произойдёт, если попечители разойдутся с основателями в принципиальном вопросе безопасности? Сообщат ли они об этом публично? Или решат не обострять конфликт, зная, что окончательное право голоса остаётся за основателями? Если акционеры не могут участвовать в контроле над руководством, остаётся открытым вопрос, кто и как будет ему возражать.

На фоне событий вокруг Nvidia удивительно, что устройству управления Anthropic уделили так мало внимания. Какой бы ответственной ни была заявленная цель компании, власть в ней сосредоточена у небольшой группы людей.

По оценке Dataist, особая миссия Anthropic сама по себе не гарантирует, что независимый траст сможет ограничивать решения основателей. Пока эта система не показала, как работает при серьёзных разногласиях о безопасности, её независимость остаётся главным открытым вопросом.

Moonshot AI переводит Kimi с программирования на науку: прогресс в тестах замедляется Дженсен Хуанг, как утверждается, намеренно создавал дефицит видеокарт ради роста прибыли Qwen4-Max от Alibaba конкурирует с Opus 5.5, GPT-6 и Kimi K3.1 Pro, предлагая гораздо более низкие цены Доклад Nexus Project: алгоритм Instagram продвигает антисемитский контент Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит» Надёжный ИИ строят не на прогнозах, а на ограничениях Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML Audible использует ИИ, чтобы помочь слушателям находить аудиокниги ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ Исследование под эгидой ООН: модели ИИ «слабы и ненадёжны» в вопросах климатологии Смогут ли роботы перенести операции при инсульте в удалённые больницы? США ужесточают экспортный контроль над ИИ-чипами, чтобы не дать китайским компаниям удалённо получать доступ к вычислительным мощностям Бывшие руководители Freshworks привлекли $53 млн, чтобы бросить вызов Salesforce и HubSpot с AI-Native CRM Apple запустила приложение, чтобы изучить, как люди используют ИИ для здоровья Индийский стартап Bharat Semi привлёк $24 млн на посевном раунде и метит на мировой рынок ИИ-сенсоров Число сообщений о созданных ИИ материалах сексуального насилия над детьми выросло на 8 400% за два года — данные Childlight Зачем Skydio создала беспилотник с асимметричной конструкцией Один скомпрометированный MCP-сервер может заставить ИИ-агента злоупотреблять инструментами, которым вы уже доверяете

Ежедневные новости об ИИ

Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.

Только важное — каждый день

В Telegram