Эксперт компании Anthropic выступил с апокалиптическим прогнозом развития искусственного интеллекта (ИИ). По его мнению, нейросети смогут уничтожить человечество в течение десяти лет. Однако гендиректор российской компании «Ашманов и партнёры» Игорь Ашманов заявил «Ридусу», что американский коллега погорячился.

Ранее руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер объявил в соцсети, что в ближайшее десятилетие «в результате повторного самосовершенствования» вполне может возникнуть «суперинтеллект», способный полностью покончить с человечеством в духе фильмов о Терминаторе.

«Действительно искренне считаем, что ИИ может убить всё человечество! Думаю, что вероятность этого превышает 10% в течение ближайших десяти лет», — сообщил Хьюбингер.

Тем не менее Ашманов считает, что представитель Anthropic слишком оптимистичен в отношении перспектив развития нейросетей.

«Все такие высказывания базируются на изначальном оптимистичном предположении, что люди вот-вот создадут сверхразум — так называемый общий искусственный интеллект, или генерал-AI. Уже тогда вроде как понятно, что он захватит мир. Занимаюсь искусственным интеллектом с 1983 года. Всё это время разработчики уверяют, что до создания разума, превосходящего человеческий, осталось пять-семь лет. Всегда были такие безумные пророки — Рэймонд Курцвейл, Юваль Ной Харари. Теперь ещё и эти ребята из Anthropic», — рассказал Ашманов «Ридусу».

При этом эксперт добавил, что у ИИ в ближайшее десятилетие есть возможность глобально навредить людям. Однако такое решение будут принимать политические лидеры, в чьи руки он попадёт.

«Искусственный интеллект сам по себе в принципе не может быть опасен. Представляют опасность умные люди, которые хотят применять его, в том числе против нас. Надо бояться того, что с нами сделают американцы, если не построим систему защиты от их ИИ-систем целеуказания и управления роями беспилотников-камикадзе», — пояснил Ашманов в беседе с «Ридусом».

Ранее исследователь Anthropic Джейкоб Коксон объявил, что уходит из индустрии из-за опасений, что разработчики вскоре создадут ИИ, способный в близком будущем выйти из-под контроля.