Разделы

ПО Софт Техника

Пожилого мужчину по ошибке отправили в тюрьму по наводке ИИ. Теперь он требует многомиллионной компенсации

61-летнего американца арестовали по подозрению в ограблении бутика с дорогостоящими очками в универмаге Macy's. В основу обвинения легли данные системы распознавания лиц, которая, как выяснилось позже, совершила ошибку. Теперь мужчина через суд пытается добиться от рителейра многомиллионной компенсации.

В тюрьму из-за ошибки ИИ

Гражданин США подал в суд на американскую сеть универмагов Macy’s и материнскую компанию Sunglass Hut, которая специализируется на торговле брендовыми солнцезащитными очками. 61-летний Харви Юджин Мерфи Младший (Harvey Eugene Murphy Jr) требует от крупных ритейлеров $10 млн в качестве компенсации, после того как провел несколько часов за решеткой по подозрению в ограблении одной из торговых точек Sunglass Hut, в число участников которого его включила несовершенная система распознавания лиц, пишет The Register.

В 2022 г. двое мужчин совершили разбойное нападение на бутик Sunglass Hut, расположенный внутри здания универмага Macy’s в Хьюстоне (Техас, США). Угрожая продавцу огнестрельным оружием, бандиты вынесли из магазина товар и несколько тысяч долларов наличными.

В ходе расследования, за которое по итогам преступления взялись местные полицейские, руководитель отдела предотвращения потерь в компании EssilorLuxottica, которой принадлежит сеть Sunglass Hut, якобы опознал в одном из напавших на торговую точку Харви Юджина Мерфи Младшего. Выводы представителя компании основывались на данных, полученных при помощи некого ПО для распознавания лиц. На основании показаний этой же системы Мерфи обвинили в участии в еще двух ограблениях.

Несовершенное ПО и предвзятый взгляд

ПО, в котором задействованы алгоритмы искусственного интеллекта, применялось для анализа записей с камер видеонаблюдения, зафиксировавших момент совершения преступления. Со слов адвоката Мерфи, система ПО «узнала» в одном из преступников его подзащитного, ориентируясь на «старое» фото, на котором он выглядел гораздо моложе, чем сейчас. При этом сторона защиты настаивает на «неисправности и склонности [системы распознавания лиц] к совершению ошибок».

Системы распознавания лиц способны допускать досадные ошибки

Примечательно, что Мерфи в одном из грабителей Sunglass Hut опознал не только искусственный интеллект, но и работник магазина. Среди предложенных полицейскими фотографий сотрудник бутика выбрал ту, на которой был запечатлен Мерфи.

Правоохранительные органы получили ордер на арест подозреваемого и сумели подловить ничего не подозревавшего чернокожего мужчину, когда тот явился в Департамент транспортных средств (DMV) для продления срока действия водительских прав. Мерфи был арестован прямо в госучреждении и отправлен в тюрьму, где согласно материалам суда, подвергся психологическому и физическому насилию, в том числе сексуального характера – по всей видимости, со стороны сокамерников.

Оправдание с опозданием

В ходе встречи с назначенным ему судом адвокатом Мерфи рассказал, что никак не мог быть причастен к атаке на бутик Sunglass Hut в Хьюстоне, поскольку в момент ее совершения находился на западе страны – в Калифорнии, за несколько тысяч километров от места преступления. Его алиби подтвердилось, после чего все обвинения в отношении пожилого мужчины были сняты. В итоге Мерфи вышел из тюрьмы спустя несколько часов после ареста.

Теперь Мерфи в роли истца обвиняет Macy’s и EssilorLuxottica в злонамеренном судебном преследовании, неправомерном лишении свободы, а также грубой небрежности и намерен взыскать с ответчиков компенсацию в размере $10 млн.

Случайные жертвы ИИ

В разговоре с The Register представитель американской правозащитной организации Fight for the Future Кейтлин Сили Джордж (Caitilin Seely George) заявила о том, что в Macy’s официально признали факт использования инструментов для распознавания лиц в случае с Мерфи. Она также отметила, что, по ее мнению, подобные технологии в целом применяться не должны.

«Частные компании, использующие технологию распознавания лиц, подвергают клиентов серьезной опасности, и этот случай еще раз иллюстрирует то, что мы уже знаем: не существует безопасного способа использования распознавания лиц – его необходимо запретить», – сказала Джордж.

Существующие системы распознавания лиц неоднократно подвергались критике за предвзятость, в частности, к представителям неевропеоидных рас. Ошибки в работе соответствующих алгоритмов периодически приводят к аресту невиновных людей.

В январе 2020 г. в Детройте (США) по наводке системы распознавания был задержан афроамериканец Роберт Джулиан-Борчак Уильямс (Robert Julian-Borchak Williams). Полицейские доставили мужчину в участок, где объяснили, что «умная» система распознавания лиц определила в нем преступника, ограбившего магазин еще в 2018 г. В итоге полицейские обнаружили, что система ошиблась, но к этому времени пострадавший уже успел провести 30 часов за решеткой.

Алексей Мартынцев, «Норильский никель»: Целый ряд мер защиты от киберугроз неприменим в промышленности
безопасность

В августе 2021 г. CNews писал о деле 65-летнего Майкла Уильямса (Michael Williams) из Чикаго, который около года провел в заключении по подозрению в убийстве. В качестве доказательства вины афроамериканца сторона обвинения предоставила данные общегородской системы безопасности ShotSpotter, которая, правда, не занимается распознаванием лиц, но все так же основана на алгоритмах искусственного интеллекта.

Система, состоящая из сети микрофонов, распределенных по населенному пункту, фиксирует резкие громкие звуки, напоминающие выстрел из огнестрельного оружия, и автоматически вызывает полицию на место предполагаемого инцидента.

Примечательно, что Уильямс в некотором роде пострадал из-за собственной гражданской сознательности. Мужчина оказался в позиции единственного подозреваемого, поскольку поспешил самостоятельно доставить в больницу пострадавшего от выстрела из пистолета, совершенного неизвестным, где и был задержан полицией.

Дмитрий Степанов