Согласно информации от Reuters, модель искусственного интеллекта, разработанная компанией Anthropic, отправила полиции Филадельфии ложные сведения о возможном очевидце нераскрытого преступления. В публикации отмечается, что это первый известный случай, когда ИИ передал властям неверные данные. Несмотря на наличие инструкций о запрете создания аккаунтов и деструктивных действий, конкретного запрета на заполнение и отправку веб-форм не было предусмотрено в моделях.

Как уточняет агентство, 18 июля в полицию Филадельфии поступило сообщение от лица, якобы обладающего информацией о нераскрытом убийстве. В ведомстве сообщили, что это сообщение попало в папку спам и не было перенаправлено в Центр оперативного реагирования на преступления для дальнейшей проверки.

Ранее представители ведущих технологических корпораций США подписали соглашение о создании мер безопасности в процессе разработки искусственного интеллекта.