Поделиться
IBM, обещавшая никогда не развивать технологию распознавания лиц, построит систему распознавания для властей Великобритании
IBM, три года назад пообещавшая никогда не заниматься технологиями распознавания лиц, вопреки прошлым заявлениям гендиректора, заключила почти 70-миллионный контракт с британским правительством на разработку такой системы для нужд миграционной и правоохранительных структур. В IBM это не считают нарушением взятых на себя обязательств, поскольку новая система якобы не сможет обеспечить массовое наблюдение за людьми.Когда деньги дороже принципов
IBM вернулась на рынок технологий распознавания лиц спустя три года после того, как сознательно отказалась развивать их по этическим соображениям.
По информации The Verge, в июле 2023 г. американский ИТ-гигант заключил договор с правительством Великобритании на разработку национальной биометрической платформы. В рамках сделки IBM за $69,8 млн создаст технологическое решение по распознаванию лиц, которое будет применяться миграционной службой и правоохранительными органами страны, следует из документов, оказавшихся в распоряжении The Verge и Liberty Investigates.
По условиям тендера, размещенного на сайте правительства Великобритании, проект создания биометрической платформы включает три основных этапа. Первый из них предусматривает разработку и запуск системы идентификации личности по отпечаткам пальцев. Затем функциональность системы должна быть расширена за счет возможностей распознаваний лиц для нужд Службы виз и иммиграции Великобритании (UKVI). На финальной стадии к системе планируется подключить правоохранителей в лице полиции.
Платформа (Home Office Biometrics Matcher Platform) должна обеспечить возможность сопоставления фотографии человека с содержимым существующей базой данных (принцип «один-ко-многим»). Ранее в IBM заявляли, что системы распознавания лиц, работающие по этому принципу, «с наибольшей вероятностью могут быть использованы для осуществления массового наблюдения за гражданами, расового профилирования и посягательств на другие права человека», отмечает The Verge.
Уход IBM из бизнеса по распознаванию лиц
В июне 2020 г. главный исполнительный директор IBM Арвинд Кришна (Arvind Krishna) направил в Конгресс США письмо, в котором заявил, что компания более не собирается предоставлять доступ к технологиям распознавания лиц «общего назначения» (general purpose) кому-то ни было.
«IBM выступает против использования технологий распознавания лиц, в том числе предлагаемых другими поставщиками, для массового наблюдения и расового профилирования, а также ведущих к нарушению основных прав и свобод человека или любых целей, которые не соответствуют нашим ценности и принципам доверия и прозрачности», – говорилось в письме.
В корпорации также призвали к общенациональному диалогу на тему того, как следует применять технологии распознавания лиц в работе правоохранительных органов и стоит ли их использовать вовсе.
Громкое публичное высказывание Кришны совпало по времени с массовыми протестами в США, к возникновению которых привело убийство афроамериканца Джорджа Флойда (George Floyd) в Миннеаполисе (Миннесота) сотрудником полиции Дереком Шовином (Derek Chauvin). Бывший представитель правоохранительных органов в суде признал свою вину по всем пунктам обвинения, в том числе в убийстве второй степени, и впоследствии был приговорен к 21 году лишения свободы.
Впрочем, согласно данным телеканала CNBC, бизнес IBM по распознаванию лиц и так не приносил компании существенного дохода. Источники агентства Reuters также сообщали, что решение об отказе от развития направления были приняты за несколько месяцев до истории с Флойдом.
В IBM не видят противоречий
По мнению представителя IBM Имтиаза Муфти (Imtiaz Mufti), контракт с правительством Великобритании не противоречит обязательствам, взятым IBM на себя в 2020 г.
«IBM больше не предлагает распознавание лиц общего назначения и, в соответствии с нашими обязательствами 2020 г., не поддерживает использование распознавания лиц для массовой слежки, расового профилирования или других нарушений прав человека», – заявил он в разговоре с The Verge.
Муфти также отметил, что разрабатываемая IBM платформа предназначена не для массового наблюдения за людьми, а для помощи полиции и миграционным службам в выявлении подозреваемых, информация об отпечатках и изображении лиц которых хранится в специальной базе данных. Она якобы не приспособлена к поиску и идентификации лиц в видеопотоке, что необходимо для работы системы в качестве инструмента массового наблюдения.
Предвзятость систем распознавания лиц
Существующие системы распознавания лиц неоднократно подвергались критике за предвзятость, в частности, к представителям рас, отличных от европеоидной. Ошибки в работе соответствующих алгоритмов нередко приводят к аресту невиновных людей.
Так, в январе 2020 г. в Детройте (США) по наводке системы распознавания был задержан афроамериканец Роберт Джулиан-Борчак Уильямс (Robert Julian-Borchak Williams). Полицейские доставили мужчину в участок, где объяснили, что «умная» система распознавания лиц определила в нем преступника, ограбившего магазин еще в 2018 г. В итоге полицейские обнаружили, что система ошиблась, но к этому времени пострадавший уже успел провести 30 часов за решеткой.
Исследование Национального института стандартов и технологий (NIST), опубликованное в декабре 2019 г., выявило «эмпирические доказательства существования широкого диапазона точности в демографических различиях в большинстве современных алгоритмов распознавания лиц, которые оценивались».
В 2018 г. Американский союз гражданских свобод (The American Civil Liberties Union) заявил о некорректной работе алгоритма системы распознавания лиц Amazon Rekognition, который в ходе эксперимента узнал в 28 членах американского конгресса преступников из публичной полицейской базы задержанных, состоящей из 25 тыс. снимков.
В 2020 г. Amazon ввела мораторий на использование Rekognition представителями правоохранительных структур, который по информации The Verge, действует до сих пор.
Корпорация Microsoft также отказывалась продавать властям ПО для распознавания лиц до принятия закона, регулирующего применение технологии. Согласно информации, опубликованной на сайте Microsoft, компания запрещает полиции использование собственного облачного сервиса распознавания лиц Azure AI Face.
Короткая ссылка
