Корпорация Apple из США объявила о намерении внести изменения в операционную систему Mac. Эти изменения позволят пользователям осознавать, когда сторонние ИИ-агенты пытаются получить доступ к полным данным на компьютере.

В настоящее время Apple предлагает разработчикам приложений целый арсенал защитных средств, охраняющих личные данные пользователей. Тем не менее, как пояснили в компании, для функционирования некоторых приложений необходима специальная функция в операционной системе Mac, которая частично нейтрализует эти защитные механизмы, предоставляя разработчикам полный доступ к файлам на устройстве.

С ростом способности и автономности ИИ-агентов риск, связанный с таким уровнем доступа, существенно увеличивается. Мы хотим, чтобы пользователи понимали эти риски, прежде чем предоставлять доступ,

— говорится в официальном заявлении компании.

Дарио Амодеи из Anthropic предложил замедлить развитие ИИ-моделей, чтобы избежать потери контроля над ними. Его инициативу поддержал основатель xAI, Илон Маск.

Главные американские компании, занимающиеся созданием искусственного интеллекта, обратились к правительству США с просьбой содействовать разработке инструментов для регулирования этой сферы.

В конце сентября лидерство американских разработчиков искусственного интеллекта, после встречи с президентом США Дональдом Трампом, обещало усилить контроль за ИИ-моделями. Под этим соглашением подписались Трамп, а также представители компаний Google, Anthropic, OpenAI, xAI и Meta*.

*Признана в России экстремистской организацией.