Российская социальная сеть «Одноклассники» внедрила технологию искусственного интеллекта для временного ограничения пользователей, пишущих оскорбительные комментарии. Об этом стало известно из пресс-релиза, переданного в редакцию издания «Лента.ру». По сообщению пресс-службы социальной сети, была внедрена модель машинного обучения, способная автоматизировать процесс обнаружения и ограничения токсичных комментариев. Период ограничения на публикацию новых сообщений для подобных пользователей варьируется от одного часа до суток в зависимости от частоты отрицательных высказываний. Это нововведение позволило уменьшить количество таких комментариев под постами, фотографиями и видео на 47 процентов.

Согласно исследованию, проведенному внутри соцсети, более 40 процентов участников опроса признают, что негативные посты вызывают у них чувство злости.

«Наши пользователи хотят безопасного и уважительного общения, о чем свидетельствует треть всех жалоб, поступающих на платформу из-за негативных, по их мнению, комментариев, и 80 процентов обращений в службу поддержки, которые касаются токсичности», — отметил Александр Москвичев, директор по продуктам в «Одноклассниках».

Модель машинного обучения была обучена на основе 400 тысяч агрессивных высказываний. Это позволило ускорить обработку жалоб на токсичные комментарии в три раза и улучшить поддержку пользователей.

«В сочетании с другими инновациями, внедренными за последние два года, ограничение токсичных комментариев способствует как возвращению редких пользователей на платформу, так и привлечению новых», — добавил Москвичев.