Исследователь из компании Anthropic Эван Хьюбингер выразил тревогу по поводу угрозы, представляемой искусственным интеллектом, оценив вероятность его гибельного влияния на человечество в ближайшие десять лет более чем в 10%. Такое заявление Хьюбингер сделал после новости о том, что его коллега Джейкоб Коксон решил покинуть Anthropic и весь сектор ИИ из-за опасений, связанных с быстрым развитием технологий, ориентированных на создание самосовершенствующегося суперинтеллекта.

Мы действительно искренне считаем, что ИИ может уничтожить всё человечество! На мой взгляд, вероятность того, что это произойдёт в ближайшие десять лет, превышает 10%, — отметил Хьюбингер в своём заявлении.

Несмотря на это, он считает, что современные ИИ-системы не представляют такого уровня угрозы. Большую опасность видят в будущих суперинтеллектах, которые будут способны постоянно повышать свои собственные возможности.

Хьюбингер рассказал, что Anthropic активно ищет способы согласования целей таких систем с человеческими интересами, но пока не удалось найти эффективное решение этой проблемы. Он также подчеркнул, что темпы технического прогресса значительно превзошли прежние ожидания.