Критика водяных знаков Anthropic в Claude: точность текста и приватность¶
6.0/10
Критическая статья Daring Fireball утверждает, что внедрение Anthropic водяных знаков в текст Claude искажает точность формулировок, которые выбирает модель, и называет это «извращением письма». По мнению автора, маркировка меняет распределение вероятностей при генерации токенов, из-за чего LLM может выбирать не самый точный вариант. Дополнительно поднимается вопрос приватности: проверка текста на водяной знак требует отправки всего текста провайдеру, причём для разных моделей — в разные компании. В обсуждении упоминается SynthID как технология, которая может вносить подобные искажения, однако детали реализации в исходном материале не приведены.
Контекст¶
Anthropic объявила, что будущие модели Claude будут генерировать текст со встроенным водяным знаком — механизмом, позволяющим оценить вероятность того, что текст был написан Claude. Это изменение внедряется вместе с несколькими другими крупными поставщиками ИИ, в том числе для соответствия европейским нормативным требованиям: модели Claude, запущенные в ЕС с 2 августа 2026 года, будут поддерживать машиночитаемую маркировку, а сгенерированные файлы — включать цифровую подпись с метаданными о происхождении. В обсуждении также упоминается SynthID — аналогичная технология водяных знаков, которая может искажать распределение вероятностей выбора токенов моделью.
Обсуждение¶
В комментариях Hacker News мнения разделились: одни защищают Anthropic, указывая, что LLM и так используют случайность и не существует единственного «лучшего» токена, а также что у Грубера может быть своя повестка. Другие выражают беспокойство, что водяные знаки искажают выученное моделью распределение вероятностей, а проверка текста требует отправлять его множеству ИИ-провайдеров с сомнительной репутацией в обращении с данными.
Источники
Покрытие источниками¶
Проверяются выбранные ключевые утверждения, а не истинность всей статьи целиком.
-
Предварительно: новость слишком свежая
Критика водяных знаков Anthropic в Claude: точность текста и приватность
- daringfireball.net · подтверждает · независимая публикация