Американская компания Anthropic сообщила о перспективах, согласно которым небольшие ИИ-модели, не зависящие от значительных вычислительных мощностей, смогут в считанные месяцы начать автономное распространение через «умные» устройства без необходимости подключения к дата-центрам.

В опубликованном исследовании компании отмечается, что опыты продемонстрировали потенциальную способность небольших ИИ-моделей к самостоятельному проникновению в коммерческие электронные устройства, такие как интеллектуальные духовки и ТВ-приставки, в течение нескольких месяцев. Компания подчеркнула сложность нейтрализации такого вирусного алгоритма из-за отсутствия единого пункта отключения.

В ходе проведенных испытаний нейросеть была успешно внедрена в сеть из 15 бюджетных ТВ-приставок, а в другом эксперименте алгоритм самостоятельно освоил работу с восемью различными видами нового оборудования. Anthropic подчеркнула, что на данный момент полноценные автономные ИИ-вирусы отсутствуют, однако они могут быть разработаны в ближайшие годы, что потребует координированных усилий производителей техники и интернет-провайдеров для борьбы с ними.

В начале октября портал Axios проинформировал о тайных моделированиях американских ИИ-компаний, направленных на изучение последствий возможных кибератак, способных парализовать инфраструктуру. Поводом для этого стала атака на южнокорейские банки — по данным компании CrowdStrike, китайский хакер применил ИИ для кражи данных клиентов, что вновь вызвало в Конгрессе дискуссии о необходимости разработки «кнопки экстренного отключения» для передовых нейросетей.