Компания DeepMind, являющаяся дочерним предприятием технологического гиганта Google, объявила о создании института для изучения безопасного пути развития общего искусственного интеллекта (AGI), обладающего универсальным человеческим интеллектом. На сайте DeepMind Institute (DMI) говорится:

"Институт DeepMind направлен на продвижение смелого мышления о безопасном развитии общего искусственного интеллекта, его полезном применении и последствиях для общества. Мы уже ощущаем последствия усиления ИИ в сферах кибербезопасности и биологических рисков, и существует вероятность в будущем утратить контроль над саморазвивающимися системами".

Предполагается, что институт станет площадкой для сотрудников Google, DeepMind, а также представителей мирового научного сообщества, которым будет предоставлена возможность "публиковать креативные и глубоко проработанные идеи о мире с AGI".

12 сентября глава компании Anthropic Дарио Амодеи опубликовал статью, в которой призвал замедлить развитие передовых ИИ-моделей. Он подчеркнул, что координированное замедление темпов разработки передовых технологий позволит ИИ-компаниям "выиграть дополнительное время на год-два", прежде чем модели достигнут критических уровней развития, и избежать серьёзных ошибок.

С данным прогнозом согласились:

• основатель компании SpaceX и самый богатый человек в мире Илон Маск
• глава американской технологической фирмы OpenAI Сэм Альтман