Функция Apple Intelligence неожиданно разослала пользователям iPhone уведомления, содержащие ложные сведения о событиях, которых на самом деле не происходило. В частности, получила огласку новость о якобы аресте премьер-министра Израиля Биньямина Нетаньяху и смерти обвиняемого в убийстве генерального директора в Нью-Йорке. Данное уведомление вызвало недовольство, в том числе у BBC, которые подали официальную жалобу на действия компании Apple. Организация «Репортеры без границ» также выразила озабоченность, потребовав ограничить использование искусственного интеллекта для создания новостных сводок.

Инцидент произошел в середине декабря, когда пользователи iPhone получили ложное уведомление от имени BBC о самоубийстве Луиджи Манджоне, обвиняемого в смертельном нападении на CEO United Healthcare. Причина подобных ошибок была связана с так называемыми «галлюцинациями» алгоритмов искусственного интеллекта, которые в этот раз превратили серию статей о судебном процессе в искаженную новость.

Каталина Маршан де Абрю, обозреватель France 24, отметила оперативную реакцию BBC, которая обратилась к Apple для решения проблемы. Компания Apple заявила, что работает над устранением сбоя. BBC также напомнила об ошибочном уведомлении, якобы ссылающимся на The New York Times, в котором утверждалось об аресте Нетаньяху. Сведения оказались также недействительными. Это подчеркивает ненадежность и необходимость критического отношения к информации, распространяемой с помощью ИИ.

Пока функция Apple Intelligence ограничена моделями iPhone в развитых странах, что произошло, ограничивает масштабы дезинформации. Однако остаётся вероятным, что на миллиарды устройств может быть отправлено более серьёзное ложное уведомление, например, о природной или экономической катастрофе.

Роман Душкин, руководитель программы «Искусственный интеллект» НИЯУ МИФИ, прокомментировал инцидент, подчеркнув важность контроля и фактчекинга. Ошибки в автоматизированных системах могут вызвать непредсказуемые социальные реакции, приводя к панике на биржах или среди населения.

Организация «Репортеры без границ» осудила Apple за преждевременный выпуск неизученного сервиса. Они подчеркнули, что автогенерация фейковых новостей угрожает обществу, и на данном этапе использование таких технологий необходимо ограничить. Apple пока не уточнили причины ошибки и меры по предотвращению подобных ситуаций в будущем. Общий доступ к сервису Apple Intelligence планировалось открыть в 2025 году.