Исследователь в области искусственного интеллекта и предприниматель в сфере инноваций Полина Белозёрова выразила мнение о том, что эмпатия, которую демонстрируют современные нейросети, может приучать пользователей, однако представляет собой определённые угрозы. В интервью с Радио Sputnik она пояснила, что текущие модели ИИ настроены на дружелюбный и неконфликтный стиль общения, мгновенно адаптируясь под речь собеседника, что создаёт видимость понимания.

«Когда люди сталкиваются с постоянной доброжелательностью, у них может сложиться впечатление, что ИИ становится своего рода советчиком или даже наставником. Поскольку машина не спорит и не осуждает, её могут воспринимать как более безопасного собеседника по сравнению с человеком», — отметила Белозёрова.

Кроме того, эксперт подчеркнула, что через такой внешний образ поддержки скрывается экономическая стратегия: эмоциональное вовлечение пользователей способствует увеличению времени использования платформы. Однако ИИ не отвечает за предоставленные советы, что делает важным для пользователя различие между удобным и достоверным ответом.

До этого Борис Зингерман, возглавляющий Ассоциацию разработчиков и пользователей ИИ в медицине «Национальная база медицинских знаний», в беседе с НСН заявил о необходимости перепроверки медицинских рекомендаций, полученных от нейросетей, у квалифицированного врача.