Ученые и лидеры технологической отрасли выпустили новое предупреждение об опасностях искусственного интеллекта. В их число они включили угрозу уничтожения человечества.

«Снижение риска исчезновения из-за искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война», — говорится в заявлении, которое было размещено во вторник на веб-сайте Центра безопасности ИИ.

Заявление подписали ведущие представители отрасли, в том числе топ-менеджеры из Microsoft и Google, генеральный директор OpenAI Сэм Альтман и Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта. Хинтон недавно уволился из Google, чтобы «свободно говорить о рисках, связанных с искусственным интеллектом», и заявил, что сожалеет о работе всей своей жизни.

Опасения по поводу того, что системы ИИ могут перехитрить людей и выйти из-под контроля, усилились с появлением нового поколения высокопроизводительных чат-ботов с искусственным интеллектом, таких как ChatGPT, и ускорением «гонки вооружений» в технологической отрасли.

В ответ растущее число законодателей, правозащитных групп и технических специалистов забили тревогу, полагая, что новый урожай чат-ботов на базе ИИ может распространять дезинформацию и вытеснять рабочие места. Появились призывы к регулированию этой сферы в самом начале эпохи искусственного интеллекта, до того, как произойдут какие-либо серьезные эксцессы.

В начале этого года более 1000 исследователей и технологов, в том числе Илон Маск, подписали длинное письмо с предложением поставить разработку систем ИИ на шестимесячную паузу, чтобы создать соответствующие механизмы контроля.

Нет признаков, что разработчики ИИ вняли этому призыву. Но правительства по всему миру изо всех сил пытаются разработать правила для развивающихся технологий, а Европейский союз прокладывает путь своим Законом об искусственном интеллекте, который, как ожидается, будет одобрен в конце этого года.