Технология основана на методе SynthID Text от Google. Она немного меняет случайность выбора слов, создавая статистически обнаружимый узор. По данным Anthropic, такой узор может сохраняться после некоторых правок, поэтому система должна работать надежнее традиционных детекторов вроде Pangram.
Компания утверждает, что водяной знак не содержит пользовательских данных и не влияет на качество или содержание текста. Критики с этим не согласны: если Claude выбирает синонимы с учетом ключа водяного знака, а не смысла, качество текста может снижаться.
Издание Artificial Lawyer также указывает на риски для прозрачности. Обнаруживаемый след ИИ может стать проблемой в случаях, когда договоры запрещают использовать ИИ, а также во время переговоров о размере гонорара. При этом издание считает, что в большинстве ситуаций водяные знаки, вероятно, не причинят вреда.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ, роботах и метавселенных и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram