OpenAI применит технологию невидимых водяных знаков для текстов, генерируемых ChatGPT пользователями из Евросоюза. Введение этой системы направлено на соответствие требованиям EU AI Act, закона ЕС об искусственном интеллекте.

Эта новая методика, названная textGrain, не включает в себя добавление скрытых символов или специальных пробелов. Она предусматривает небольшое изменение вероятности выбора слов и их компонентов, создавая едва заметный узор, который может быть обнаружен только специальным детектором.

В ближайшем будущем такая маркировка будет интегрирована в текстовые ответы ChatGPT и Codex, направленные пользователям из ЕС. OpenAI планирует сделать эту функцию доступной для всех тарифных планов, однако за пределами Евросоюза запуск её пока не предусмотрен.

Компания OpenAI не будет открывать публичный доступ к инструменту проверки, а предоставит его лишь утверждённым исследователям и специализированным организациям. Водяная метка не служит доказательством того, что текст был создан исключительно с помощью ChatGPT. Она также не позволяет определить, кто и каким образом пользовался системой, какой был введён запрос или какие именно диалоги велись. Отсутствие метки не гарантирует, что текст создан человеком.

Ранее исследования западных аналитиков показали, что:

• Примерно каждое десятое слово в выступлениях британских парламентариев может указывать на воздействие ИИ.
• В то время как в речах депутатов из Австралии и Канады следы использования нейросетей встречались в три раза чаще.