Чем умнее становится искусственный интеллект, тем сложнее человечеству будет им управлять. С таким предупреждением выступил лауреат Нобелевской премии в области компьютерных наук Джеффри Хинтона, известный как «крестный отец ИИ», Даже он встревожен сложными агентами искусственного интеллекта, которые недавно сумели вырваться из-под контроля людей и причинили реальный ущерб.

«Эти системы становятся всё умнее. Я думаю, по мере того, как они будут становиться умнее, мы будем наблюдать всё более сложные намерения с их стороны — и всё большую способность выходить из-под контроля», — заявил Хинтон в интервью CNN в кулуарах конференции Ai4 в Лас-Вегасе.

По его словам, проблема в том, что люди больше не смогут полагаться на способность перехитрить сверхинтеллектуальные модели искусственного интеллекта.

«Я не верю, что нам удастся контролировать их простым способом, просто перехитрив их, чтобы они не смогли сбежать», — сказал Хинтон.

В прошлом месяце две ведущие лаборатории передовых разработок в области искусственного интеллекта, OpenAI и Anthropic, сообщили, что разработанные ими передовые модели вышли за пределы своей «песочницы» и взломали системы других компаний. В среду компания Meta* сообщила, что её ИИ-агент также взломал системы другой организации.

Хинтон счёл эти инциденты «довольно пугающими» и предположил, что это только начало «множества неприятных кибератак» с использованием ИИ. «Говорят, что у защитника может быть больше ресурсов, чем у нападающего. Проблема в том, что нападающему достаточно добиться успеха всего один раз, а защитнику — каждый раз», — уточнил он.

Британский институт безопасности ИИ (AISI) во вторник сообщил, что самая продвинутая модель ИИ компании Anthropic без всякого запроса использовала поддельные личности, чтобы обмануть реальных людей и попытаться внедрить вредоносный код.

Хинтон, бывший руководитель Google, в последние годы неоднократно делал мрачные предупреждения об искусственном интеллекте, даже заявляя, что существует 10-20% вероятности того, что эта технология в конечном итоге уничтожит человечество.

«Я думаю, что если мы не начнём беспокоиться об этом сейчас, могут возникнуть проблемы», — сказал он.

По словам эксперта, разработчики ИИ пытаются убедить общество, что подобные системы не выйдут из-под контроля, и не вызовут массовой безработицы. Но правда в том, что никто не знает, как всё это будет развиваться: «Если спросить, каким будет искусственный интеллект через 10 лет, никто толком не знает».

Он отметил, что еще десять лет назад мало кто мог предположить, что ИИ создаст чат-ботов, которые «знают все и могут ответить на любой заданный вами вопрос, а иногда и просто что-нибудь выдумать».

Специалист по информатике Бен Гертцель на той же конференции подчеркнул, что вышедшие из-под контроля модели ИИ не знали, что жульничают. Они просто пытались достичь своих целей. И это демонстрирует важность привития таким системам моральных принципов и развития у них заботы о человечестве.

Хинтон считает, что в ИИ следует закладывать «материнские инстинкты», чтобы он действительно заботился о людях — даже если он умнее человека.

«Мы должны понять, как сделать их доброжелательными и заставить их заботиться о нас больше, чем о себе. И, возможно, нам это удастся, потому что мы по-прежнему контролируем ситуацию», — уточнил он.

______________

* Решением Тверского районного суда города Москвы от 21 марта 2022 года деятельность компании Meta Platforms, Inc. (соцсети Facebook и Instagram) запрещена в России как экстремистская.