Компания Google на этой неделе запустила экспериментальный искусственный интеллект Bard, который будет интегрирован в поисковую систему и должен давать пользователям прямой ответ на запрос, а не список сайтов. Однако уже на этапе тестирования данный чат-бот допустил грубую ошибку, что встревожило настоящих учёных.

Искусственному интеллекту задали простой вопрос: о каких новых открытиях космического телескопа  «Джеймс Уэбб» можно рассказать 9-летнему ребенку, на что Bard ответил, что этот телескоп сделал самые первые снимки экзопланеты за пределами нашей Солнечной системы. Однако сотрудники из Гарвард-Смитсоновского центра астрофизики сказали, что это неправда, поскольку первое изображение было сделано при помощи адаптивной оптики Очень Большого Телескопа (VLT) в 2004 году.

Один из авторов первых снимков экзопланет Брюс Макинтош заметил ироничность ситуации: дело в том, что при поиске изображения стандартными средствами Google, поисковик старой школы даёт правильный ответ. Макинтош подчёркивает, что подобные ошибки, проскальзывающие через систему — яркий пример того, что полагаться на модель ИИ в точных вопросах слишком опасно.

«Это прекрасно иллюстрирует самую главную слабость статистических систем. Эти системы предназначены для того, чтобы давать правдоподобные ответы в зависимости от статистического анализа, но они не предназначены для того, чтобы давать правдивые ответы. Компании финансово заинтересованы в том, чтобы первыми внедрить определённые типы систем, однако они слишком торопятся, поскольку вероятность дезинформации в массовом масштабе огромная», — пояснила профессор Карисса Велиз из Оксфордского университета.

Впрочем, представитель Google пояснил, что сейчас проходят лишь первые этапы тщательного тестирования, и внешние отзывы обязательно будут учитываться, чтобы ответы искусственного интеллекта соответствовали правдивой информации. Стоит отметить, что вслед за американцами о запуске аналогичного проекта объявила китайская поисковая система Baidu.