Американская компания IBM решила отказаться от разработки программ общего назначения для распознавания лиц или анализа подобных данных. Такое решение базируется на опасениях возможной массовой слежки и дискриминации по расовому признаку. Соответствующее письмо направил в Конгресс США генеральный директор Арвинд Кришна.
«IBM решительно выступает против и не потворствует использованию любой технологии, в том числе технологии распознавания лиц, предлагаемой другими поставщиками, для массового наблюдения, расового профилирования, нарушений основных прав и свобод человека или любых целей, которые не соответствуют нашим ценностям и принципам доверия и прозрачности», — сказано в тексте документа.
В компании считают, что сейчас самое подходящее время для начала общенационального диалога о применении систем распознавания лиц правоохранительными органами. IBM даже внесла свои предложения по реформе полиции, отметив необходимость усиления ответственности официальных лиц за нарушение законов, в том числе и в области цифровых технологий.
При этом Кришна подчеркнул, что искусственный интеллект можно и нужно использовать для обеспечения безопасности населения.
Программное обеспечение для распознавания лиц существенно улучшилось за последнее десятилетие благодаря достижениям в области искусственного интеллекта. В то же время данная технология страдает от предвзятости по признакам возраста, расы и этнической принадлежности. Это может сделать инструменты ненадежными для работы правоохранительных органов, создать угрозы безопасности и способствовать нарушениям гражданских прав.