Общество

Широглазова объяснила, почему AI-детекторы ненадежны

0 584

AI/ML-инженер, эксперт в области больших языковых моделей, AI-агентов и автоматизации бизнес-процессов Надежда Широглазова выразила мнение о том, что единого скрытого признака, который мог бы точно идентифицировать происхождение текста, не существует. В интервью для «Газеты.Ru» она подчеркнула, что скрытые символы Unicode не могут служить однозначным доказательством использования нейросети, а метаданные, привязанные к файлу, часто теряются после его копирования.

Эксперт также упомянула о статистическом водяном знаке, создающемся благодаря определенной закономерности в выборе токенов. По её мнению, смена шрифта не полностью уничтожает этот водяной знак, однако переработка текста, его перевод или новая генерация могут значительно ослабить его действие.

Широглазова рекомендовала с осторожностью относиться к результатам публичных AI-детекторов и не воспринимать их как бесспорное доказательство происхождения текста.

Ранее психолог Екатерина Каталина в беседе с НСН рассказала о том, что постоянные обращения за советами к нейросети могут свидетельствовать о зависимости от её ответов.