Систему распознавания лиц ФБР обвинили в расизме

Софт Безопасность Бизнес
мобильная версия
, Текст: Валерия Шмырова

Общественные организации США просят свое Министерство юстиции отрегулировать машинное распознавание лиц в правоохранительных органах. Одна из причин — менее точная идентификация лиц афроамериканцев по сравнению с лицами белых, которая готовит почву для проявлений расизма.


Общественные организации США против распознавания лиц

Коалиция из 52 общественных и правозащитных организаций США направила в Министерство юстиции письмо с просьбой расследовать чрезмерное использование технологий распознавания лиц в работе органов правопорядка. Также коалицию беспокоит неодинаковая точность машинного распознавания лиц разной расовой принадлежности, которая может стать основой для проявления расизма со стороны сотрудников органов.

Особенно этими технологиями злоупотребляет местная полиция, полиция штатов и ФБР, гласит письмо. Коалиция просит Министерство юстиции в первую очередь заняться проверкой тех полицейских департаментов, которые уже находятся под следствием в связи с предвзятым отношением к гражданам с небелым цветом кожи.

Исследование университета Джорджтауна

Основанием для просьбы послужили результаты исследования Центра приватности и технологий Школы права университета Джорджтауна. Исследование показало, что лица половины взрослого населения США при разных обстоятельствах были отсканированы правительственным идентификационным ПО.

Правозащитники США обвинили систему распознавания лиц в расизме

Исследователи отмечают, что в США на сегодняшний день не существует серьезных правил, регулирующих использование этого ПО. По словам Альваро Бедойи (Alvaro Bedoya), директора Центра и соавтора исследования, сфотографировавшись на водительские права, человек уже попадает в базу лиц полиции или ФБР. Это особенно существенно с учетом того, что распознавание лиц бывает неточным, и в этом случае может наносить вред невинным гражданам.

Распознавание лиц разной расы

Помимо всего прочего, исследование Центра уличает ПО для распознавания лиц в своеобразном расизме. Бедойя утверждает, что идентификационные системы распознают лица афроамериканцев на 5-10% менее точно, чем лица белых. Соответственно, афроамериканцы чаще страдают, если их лица распознаны неверно.

Данные Центра подтверждают результаты другого похожего исследования, предпринятого в 2012 г. американским Институтом инженеров электротехники и электроники (IEEE). Эксперты IEEE также пришли к выводу, что машинное распознавание лиц дает больше сбоев, когда речь идет о женщинах, детях и афроамериканцах.

Тестирование на точность распознавания

Исследование Центра основано на информации, полученной из записей 106 полицейских департаментов по всей стране. Только один из этих департаментов получил согласие властей, перед тем как начать использовать технологию распознавания лиц. Ни один из 106 департаментов никогда не проводил тестирование системы на точность распознавания вообще и на точность распознавания лиц с небелым цветом кожи в частности.

По словам Бедойи, его группа связалась с двумя самыми крупными компаниями-разработчиками ПО в этой сфере. Ни одна компания не смогла привести пример тестирования собственного продукта на точность распознавания лиц разной расовой или этнической принадлежности.

Распознавание лиц во время массовых волнений

Одной из организаций, подписавших письмо в Министерство юстиции, стал Американский союз защиты гражданских свобод (ACLU). Союз утверждает, что системы распознавания лиц используются правоохранительными органами для поголовного сканирования граждан на улицах, в частности, во время массовых акций.

Например, этот метод был использован во время волнений в Балтиморе, связанных с гибелью афроамериканца Фредди Грея, предположительно избитого до смерти сотрудниками полиции при задержании в 2015 г. ACLU предлагает Министерству юстиции ограничить применение идентификационных систем во время массовых акций.

Статистика запросов на распознавание лиц в США

По данным исследователей из Джорджтауна, более 117 американцев занесены в различные базы лиц правоохранительных органов США. Каждый четвертый полицейский департамент в стране использует в своей работе машинное распознавание лиц, обращаясь либо к полицейской базе, либо к базам других органов. Например, Управление шерифа в округе Пинеллас, Флорида, осуществляет около 8 тыс. запросов на идентификацию лиц ежемесячно.

ФБР использует собственную систему распознавания лиц, база которой содержит 30 млн фотографий. Кроме того, бюро имеет доступ к отсканированным фото на водительских правах жителей 16 штатов. В период с августа 2011 г. по декабрь 2015 г. ФБР осуществило около 215 тыс. поисковых запросов по базам других органов. Количество поисков по внутренней базе бюро, по-видимому, гораздо выше.