Спецпроекты

IBM объявила технологии распознавания лиц злом и не будет их развивать

3836
Бизнес Законодательство Интеграция Бизнес-приложения Техника
IBM отказалась от разработки программного обеспечения и оказания услуг по распознаванию лиц на фоне массовых протестов в США. Глава IBM заявил, что компания не хочет развивать технологии, которые могут быть использованы «для массового наблюдения и нарушения базовых прав и свобод человека», и предложил обсудить возможность запрета на их использование правоохранителями. Американские СМИ со ссылкой на информированные источники заявляют, что бизнес корпорации по распознаванию лиц не был в достаточной мере прибыльным, а решение о выходе из него было принято загодя.

IBM выходит из бизнеса по распознаванию лиц

Американская корпорация IBM больше не будет заниматься разработкой или продажей программного обеспечения и услуг по распознаванию лиц. Компания также откажется от исследований по этому направлению, пишет The Verge со ссылкой на письмо главы (СEO) IBM Арвинда Кришны (Arvind Krishna) в адрес конгресса США.

В IBM опасаются, что применение технологий распознавания лиц может приводить к нарушению базовых прав человека и расовой дискриминации.

«IBM выступает против использования технологий распознавания лиц, в том числе предлагаемых другими поставщиками, для массового наблюдения и расового профилирования, а также ведущих к нарушению основных прав и свобод человека или любых целей, которые не соответствуют нашим ценности и принципам доверия и прозрачности», — говорится в письме.

ibm600.jpg
IBM отказалась от разработки программного обеспечения и оказания услуг по распознаванию лиц

Кришна также отметил, что искусственный интеллект (ИИ) является мощным инструментом, который способен помочь правоохранительным органам обеспечить безопасность граждан, но поставщики и пользователи ИИ-систем несут общую ответственность за качество тестирования алгоритмов на предвзятость, в особенности при использовании органами охраны порядка.

IBM призвала к общенациональному диалогу на тему того, как следует применять технологии распознавания лиц в работе правоохранительных органов и стоит ли их использовать вовсе. Кроме того, в своем письме CEO «Голубого гиганта» предложил ряд мер, которые, как предполагается, поспособствуют «достижению расового равенства» в США.

Почему именно сейчас

Корпорация не объясняет своей выбор момента для объявления о прекращении развития технологий распознавания лиц. О своем решении IBM сообщила на фоне массовых акций протеста в США, которые были спровоцированы кончиной Джорджа Флойда (George Floyd). Афроамериканец погиб при задержании представителями полиции Миннеаполиса (штат Миннесота), которых позднее обвинили в излишней жестокости.

По данным американского телеканала CNBC, бизнес IBM по распознаванию лиц и так не приносил компании существенного дохода. Источники агентства Reuters, знакомые с вопросом, сообщили что решение об отказе от развития продукта были приняты задолго до истории с Флойдом – еще несколько месяцев назад.

Предвзятость систем распознавания лиц

Как отмечает The Verge, ПО для распознавания лиц значительно улучшилось за последнее десятилетие благодаря достижениям в области искусственного интеллекта. В то же время технология, развитие которой в США ведется силами частных компаний, обделенных вниманием регуляторов, страдает от предвзятости по признаку возраста, расы и этнического бэкграунда. Из-за этого инструменты на ее базе могут ненадежными и неподходящими для применения правоохранительными органами.

Исследование Национального института стандартов и технологий (NIST), опубликованное в декабре 2019 г., выявило «эмпирические доказательства существования широкого диапазона точности в демографических различиях в большинстве современных алгоритмов распознавания лиц, которые оценивались». Технология, помимо прочего, была раскритикована за ее роль в нарушении конфиденциальности.

Стоит отметить, что исследование NIST не включало технологию распознавания лиц корпорации Amazon под названием Rekognition, которая в числе немногих техногигантов, поставляющих соответствующее ПО органам охраны правопорядка. В 2018 г. Американский союз гражданских свобод (The American Civil Liberties Union) выявил некорректную работу алгоритма Amazon. Rekognition тогда ошибочно идентифицировал 28 членов американского конгресса на фотографиях из публичной полицейской базы задержанных преступников, состоящей из 25 тыс. снимков.

США постепенно запрещают технологию, Европа подумывает о моратории

Власти некоторых американских городов США уже ввели запрет на машинное распознавание лиц. Так, в 2019 г. Сан-Франциско, Окленд и Сан-Диего были в числе тех городов, которые одними из первых запретили технологию распознавания лиц, сославшись на то, что эта она имеет ряд серьезных ограничений, способствует предвзятости в отношении национальных меньшинств. Кроме того, технологии вменялось отсутствие стандартов в отношении ее использования.

Европейский Союз, по сообщению Reuters, рассматривает вопрос о введении пятилетнего моратория на применение технологий распознавание лиц в общественных местах, в том числе в парках, спортивных площадках, а также в зонах притяжения туристов. Подобная мера могла обеспечить властям ЕС достаточное время на тщательную проработку законодательства, которое могло бы гарантировать отсутствие злоупотреблений технологией со стороны ее операторов.

В апреле 2020 г. стало известно, что Microsoft сворачивает инвестирование в израильский стартап Anyvision, занимающийся распознаванием лиц после того, как тот оказался в центре скандала. Корпорация решила прекратить инвестиции во всю отрасль, хотя у нее есть собственная разработка такого рода.

Представители Microsoft неоднократно утверждали, что компания никогда не будет продавать свои технологии распознавания лиц для решений, связанных с массовой слежкой. И что, хотя к Microsoft обращались с предложениями о покупке представители неких правоохранительных органов, им было отказано из опасений, что данные инструменты будут использованы для нарушения гражданских прав.

В марте 2020 г. компания Clearview AI, скандальный разработчик систем распознавания лиц, претерпела кибератаку, в результате которой утекли данные о ее клиентах.