Один шанс из пяти — так Илон Маск оценил вероятность того, что искусственный интеллект уничтожит человечество. «Я, возможно, согласен с Джеффом Хинтоном, что это около 10 или 20% или что-то в этом роде», — сказал он недавно на одном из семинаров, посвященных теме ИИ. Но вероятный позитивный сценарий перевешивает негативный, добавил бизнесмен.

Джеффа Хинтона называют отцом искусственного интеллекта. Он стоял у истоков этой технологии, работал над ее развитием в Google, но почти год назад ушел из корпорации, чтобы публично говорить об угрозах ИИ.

В ноябре прошлого года Маск был более осторожен в оценках. Тогда он просто заявил, что вероятность того, что искусственный интеллект однажды выйдет из-под контроля, «не равна нулю», но при этом даже не упоминал о возможном конце людской цивилизации.

Но и текущая оценка Маска слишком консервативна, считает директор Лаборатории кибербезопасности в Университете Луисвилля исследователь безопасности ИИ Роман Ямпольский. Фактическая вероятность гибели человечества намного выше, почти 100%, сказал он Business Insider.

При этом эксперт имеет в виду не только прямую угрозу от умных систем, но и их потенциальное участие в событиях, которые положат конец цивилизации людей, например создание нового биологического оружия или коллапс общества из-за масштабной кибератаки.

По данным The New York Times, руководители технологических компаний оценивают возможность апокалипсиса, вызванного искусственным интеллектом, от 5 до 50%.

Поскольку контролировать продвинутый ИИ будет невозможно, единственная надежда — никогда не создавать его, подчеркнул Ямпольский. Он не понимает, почему Маск считает, что развивать эту технологию — хорошая идея. «Если он обеспокоен тем, что конкуренты доберутся туда первыми, это не имеет значения, поскольку неконтролируемый сверхинтеллект одинаково плох, независимо от того, кто его создал», — добавил эксперт.

Маск вместе с Сэмом Альтманом основал OpenAI, однако ушел из совета директоров компании в 2018 году. В прошлом году он основал новую компанию под названием xAI, целью которой является дальнейшее расширение возможностей этой технологии. По мнению Маска, к 2030 году цифровой интеллект превысит весь человеческий интеллект, вместе взятый.

Развитие ИИ бизнесмен сравнил с воспитанием ребенка с задатками супергения, а лучшим способом достижения безопасности этой технологии назвал акцент на правдивость. «Не заставляйте ИИ лгать, даже если правда неприятна», — призвал Маск.

Беда в том, что продвинутый искусственный интеллект может научиться лгать и без помощи человека, и перевоспитать его с помощью существующих мер безопасности будет уже невозможно, предупреждают ученые.