Член Конгресса США Анна Паулина Луна, представляющая Республиканскую партию от Флориды, выражает обеспокоенность по поводу системы искусственного интеллекта в американской обороне. Она требует, чтобы Министерство обороны предоставило возможность немедленного отключения всех интегрированных ИИ-систем из соображений национальной безопасности.

В выходные Дарио Амодей, глава компании Anthropic, акцентировал внимание на необходимости замедления развития более мощных ИИ-моделей, подчеркивая важность безопасности.

Луна заявила в эфире Fox News: "Моё желание заключается в том, чтобы у Пентагона были обеспечены встроенные меры предосторожности в каждой из ИИ-систем, используемых в нашей оборонной сфере, с возможностью их быстрого отключения при необходимости."

Эта обеспокоенность усилилась на фоне недавнего заявления исследователя компании Anthropic Джейкоба Коксона о его отставке из индустрии искусственного интеллекта. Он отметил, что ускоренная технологическая гонка ставит мир под угрозу и может привести человечество к "точке невозврата", предполагая вероятный апокалипсис к концу 2027 года.

После ухода Коксона, Эван Хьюбингер, специалист по стресс-тестированию согласованности ИИ в компании, высказал мнение о 10% вероятности того, что ИИ может уничтожить человечество в течение ближайших десяти лет.