Крупные ИИ-компании подписали кодекс ЕС о маркировке контента¶
7.0/10
Anthropic, OpenAI, Google, Meta, Microsoft и Mistral подписали Кодекс практики ЕС по прозрачности контента, созданного ИИ, который требует маркировки (watermarking) текста и кода, генерируемых моделями, включая локальные open-source модели. Это обязательство имеет юридическую силу в рамках Закона ЕС об ИИ и вводит технические требования к встраиванию водяных знаков в вывод моделей. Подписание затрагивает разработчиков и пользователей, поскольку маркировка может повлиять на работу агентных скриптов и компиляторов. Сообщество обсуждает возможные способы обхода маркировки и опасения, что это подтолкнет пользователей к китайским open-weight моделям. Точные сроки внедрения и технические детали маркировки пока не раскрыты.
Контекст¶
Кодекс практики ЕС по прозрачности ИИ-контента является частью регулирования, направленного на борьбу с дезинформацией и обеспечение отслеживаемости синтетического контента. Он обязывает компании внедрять механизмы маркировки, чтобы пользователи могли отличать сгенерированный ИИ текст, изображения и видео от созданных человеком. Это продолжение усилий ЕС по регулированию ИИ, начатых с Закона об ИИ, который вводит обязательства для поставщиков моделей.
Влияние¶
Для разработчиков и пользователей, особенно в ЕС, маркировка может нарушить работу автоматизированных скриптов и инструментов, использующих вывод LLM, а также создать неудобства при обработке кода. Возможен отток пользователей к китайским open-weight моделям, которые не обязаны соблюдать этот кодекс, что ослабит конкурентные позиции подписавших компаний на европейском рынке.
Обсуждение в сообществе¶
Пользователи Reddit выражают скептицизм: один из комментаторов утверждает, что маркировку можно легко удалить с помощью обучения небольшой модели-классификатора и последующего adversarial-обучения, что займет около часа. Другие опасаются, что маркировка сломает агентные рабочие процессы и вызовет путаницу у компиляторов, а также отмечают, что злоумышленники все равно найдут способы обхода. Есть и вопрос о том, как технически реализовать невидимую маркировку текста без ущерба для функциональности.
Проверка фактов¶
Утверждение о том, что Anthropic, OpenAI, Google, Meta, Microsoft и Mistral подписали кодекс, не подтверждено независимыми источниками, так как в предоставленном материале нет ссылок на официальные заявления. Заявление о том, что маркировка требуется законом, соответствует известным положениям Закона ЕС об ИИ, но конкретные требования к водяным знакам в тексте остаются неясными. Утверждение о возможности обхода маркировки за час является гипотетическим и не подкреплено экспериментальными данными.