Исследования показали, что современный искусственный интеллект вскоре будет способен самовоспроизводиться, используя подключённые к Сети «умные» устройства. Стоит ли человеку опасаться размножения ИИ-агентов, рассказал «Ридусу» разработчик сайта президента России kremlin.ru Артём Геллер.

Ранее компания Anthropic — один из ведущих разработчиков нейросетей — обнародовала результаты исследований IT-экспертов Уильяма Чжоу и Дэниела Фримена, показывающие, что искусственный разум уже вплотную подошёл к порогу превращения в «цифровую плесень», способную размножаться без участия человека. Их эксперименты помогли установить, что ИИ может самовоспроизводиться самостоятельно, используя распределённые вычисления на «умной» бытовой технике и запуская на устройствах свои копии.

«Путь здесь довольно простой. ИИ-агенты находят подключённое к Сети устройство в памяти, копируют себя в эту память, а дальше ищут другую технику по интернету. Важно, что наши приборы уже достаточно технологичны, чтобы на них можно было запускать какие-то маленькие модели», — подтвердил Геллер «Ридусу» возможность такого сценария.

При этом, по словам IT-эксперта, сама по себе способность нейросети к самовоспроизводству не является какой-то критической угрозой. Вопрос заключается в том, контролируют ли её люди.

«Подобное размножение само по себе некритично, поскольку может быть заложено человеком в самой модели. Что критично — это её возможная независимость от человека», — добавил разработчик сайта Кремля в беседе с «Ридусом».

Ранее HR-эксперт Анна Горбушина посоветовала соискателям тщательно проверять владельца платформы и условия обработки личных данных перед проведением собеседования с использованием искусственного интеллекта. Следует предупреждать, что в процессе интервью сервис получает не только резюме и контактную информацию, но и записи изображения с голосом кандидата.