Claude внедрил невидимый водяной знак, усложнив выдачу текстов ИИ за человеческие

Anthropic начала маркировать текст, созданный новыми моделями Claude: отметка сохраняется при копировании и вставке и может пережить часть редактирования

Компания Anthropic внедрила в новые модели Claude «невидимый водяной знак», который не влияет на смысл или читаемость текста, но остается связанным с ним при копировании и вставке. По словам компании, отметка может сохраняться после некоторых видов редактирования.

Модели Claude, выпущенные 2 августа и позже, поддерживают маркировку с момента своего появления, Anthropic также работает над ее интеграцией в более ранние модели. Маркировка охватывает весь текст, создаваемый Claude, включая работу через облачных провайдеров.

Anthropic намерена предоставить сторонним организациям инструменты для обнаружения таких отметок. Компания связывает внедрение данной технологии с обязательствами по обеспечению прозрачности в соответствии с законом Европейского союза об искусственном интеллекте (EU AI Act).

Для издателей, учебных заведений и университетов такая маркировка может стать дополнительным инструментом для проверки текстов на предмет использования ИИ. В издательской индустрии уже возникали ситуации, когда авторов подозревали в применении генеративных моделей. В июле литературный агент отказался поддерживать роман "Call Me, I'll Hide the Body" после вопросов о возможном использовании ИИ, а ранее издательство Hachette сняло с публикации хоррор-роман "Shy Girl" на фоне аналогичных обвинений. В обоих случаях авторы отрицали самостоятельное применение ИИ для написания текста.

При этом водяной знак не позволит однозначно определить происхождение текста. Anthropic признает, что интенсивное редактирование, перефразирование, перевод или смешение вывода Claude с другим текстом могут сделать отметку недоступной для обнаружения. Кроме того, найденный водяной знак не доказывает, что Claude полностью написал исходный текст: он может появиться даже после использования модели только для корректуры или перевода.

Anthropic стала второй крупной компанией в области ИИ, внедрившей такую технологию после Google DeepMind, которая в 2024 году объявила о маркировке текста и видео из Gemini с помощью системы SynthID.