Президент Южно-Африканской Республики, Сирил Рамапоса, представил инициативу о внедрении механизма контроля за развитие систем искусственного интеллекта (ИИ) в рамках сотрудничества стран БРИКС. Он озвучил это предложение на заседании, где присутствовали лидеры и представители государств-партнёров формирования в формате "аутрич".

ЮАР предлагает ввести международный механизм внутри БРИКС для независимой научной оценки ИИ-систем, — заявил Рамапоса. — Этот механизм должен базироваться на принципах подлинного контроля со стороны человека. Необходимо обязательное информирование о значительных инцидентах, постепенное усиление мер безопасности параллельно с ростом технологических возможностей, а также инвестирование в развитие суверенного потенциала в области ИИ для стран с динамично развивающимися экономиками.

Рамапоса подчеркнул, что компании, занимающиеся разработками в сфере ИИ, должны подвергаться официальным внешним проверкам, аудитам и государственному регулированию.

Такой надзор уже является стандартной практикой в других отраслях, деятельность которых сильно влияет на безопасность и благополучие общества, например, в авиационной, фармацевтической, атомной и финансовой отраслях, — отметил он. — Недопустимо, чтобы технологические возможности превышали нашу способность их понимать, контролировать и регулировать. Необходимо обеспечить столь же стремительное развитие контролирующих механизмов со стороны человека, как и самого ИИ.

Президент Южной Африки акцентировал внимание на том, что в настоящее время с помощью ИИ создаются технологии, способные выполнять сложные кибероперации, содействовать разработке биологического оружия, действовать автономно, манипулировать данными, осуществлять массовую слежку и нарушать стабильность на рынке труда.

В конечном итоге, ИИ может создавать системы, которые окажутся вне контроля человека, — заверил Рамапоса.