Американские разработчики искусственного интеллекта сосредоточили усилия на создании системы срочной защиты от неконтролируемых алгоритмов, применяя инструменты искусственного интеллекта, сообщает портал Axios.

Вопросы безопасности в области искусственного интеллекта вновь стали центральной темой обсуждения после того, как Джейкоб Коксон, исследователь из компании Anthropic, объявил об уходе из индустрии. Причиной своего решения он назвал стремительное приближение к "точке невозврата", вызванное гонкой технологических корпораций, что, по его мнению, может привести к катастрофе к концу 2027 года.

Портал отмечает, что хотя компании имеют возможность отключить отдельные серверы, предоставляющие ресурсы ИИ, реально крупные системы задействуют множество компьютеров и платформ. Универсального выключателя не существует, и поэтому компании разрабатывают многоуровневую защиту, которая может выявлять подозрительные активности, останавливать агентов и отключать их от ресурсов, необходимых для продолжения их работы.

Пентагона по технологиям Эмиль Майкл выразил мнение, что страхи о возможном уничтожении человечества искусственным интеллектом основаны на боязни перемен.

Бывший президент США Дональд Трамп также утверждал, что сценарий восстания машин вследствие прогресса в области ИИ невозможен, но на случай угроз будет найдено "другое маленькое приспособление".