В январе 2020 года полиция Детройта арестовала 42-летнего темнокожего мужчину по имени Роберт Уильямс по подозрению в краже часов на сумму в $4 тыс. Полицейские приехали к Уильямсу домой, заковали его в наручники на глазах детей и увезли на допрос, где предоставили доказательство его вины — система распознавания лиц сопоставила запись с камер в ночь ограбления и фотографию с водительских прав Уильямса.
У Уильямса было алиби и он опроверг все обвинения. Полиция показала ему снимки подозреваемого в краже, но на снимках был не он. «Это был другой крупный темнокожий мужчина», — вспоминает Уильямс.
Обвиняемому пришлось провести в участке 30 часов, после чего его отпустили под залог. Так как никаких других доказательств вины Роберта Уильямса обнаружить не удалось, полиция сняла с него обвинения. Как сообщает Wired, это первый в США случай, когда ошибка камеры распознавания лиц привела к аресту человека, то есть случилось то, о чем критики применения этой технологии правоохранительными органами не раз предупреждали.
Системы распознавания лиц не раз обвиняли в предубеждении против представителей темнокожей расы — дело в том, что эти алгоритмы «тренируются» на фотографиях преимущественно европеоидов, из-за чего им не хватает данных, чтобы со стопроцентной уверенностью идентифицировать людей с иным цветом кожи. Дело Уильямса показывает, что может произойти, когда несовершенная технология, которая используется в реальных расследованиях, объединяется с халатностью полицейских.
Американский союз защиты гражданских свобод (ACLU) подал жалобу против действий полиции Детройта. Сообщается, что ряд снимков с вероятными подозреваемыми, которые выдала система распознавания лиц, использованные в этом деле, по закону не могли являться основанием для ареста. Известно, что охранник магазина, в котором произошла кража, не присутствовал на месте преступления, но каким-то образом опознал Роберта Уильямса.
При этом один из полицейских, который проводил допрос подозреваемого в участке, признал, что «компьютер, наверное, ошибся».
Несмотря на то что с Уильямса были сняты все обвинения, ACLU указывает на тот факт, что запись о его аресте, отпечатки пальцев, а также снимок для полицейского протокола остались в базе данных города.
Представитель полиции Детройта заявил о том, что на текущий момент система распознавания лиц применяется правоохранителями лишь при расследовании насильственной преступности.
В июне 2020 года ряд крупных IT-компаний, включая IBM, Microsoft и Amazon, объявили о приостановке сотрудничества с полицией в сфере технологий по распознаванию лиц.
«Мы вводим однолетний мораторий на использование полицией технологии распознавания лиц Amazon… Мы выступали за то, чтобы правительства ввели более строгие правила, регулирующие этическое использование технологии распознавания лиц, и конгресс, похоже, готов принять этот вызов. Мы надеемся, что этот однолетний мораторий даст конгрессу достаточно времени для внедрения регулирования, и мы готовы оказать свою помощь, если это потребуется», — говорится в обращении Amazon.
«Мы верим, что пришло время для общенационального диалога касательно того, должна ли технология распознавания лиц применяться правоохранительными органами страны», — заявил гендиректор IBM Арвинд Кришна.
Однако многие эксперты говорят о том, что мораторий на год не принесет позитивных изменений, а некоторые компании просто выжидают, пока в США стихнут протесты, связанные с произволом полиции в отношении темнокожего населения.
Как только ситуация стабилизируется, IT-гиганты могут снова начать работать с правоохранительными органами, не афишируя это сотрудничество.
Сам Роберт Уильямс, пострадавший из-за ошибки алгоритма, говорит о том, что этот случай его семья забудет нескоро.
«Мои дочери все еще вспоминают, как на меня надевают наручники и сажают в полицейскую машину. Но они считают, что мой опыт должен был использован во благо. Я хочу быть уверен, что мои дочери не будут расти в мире, где водительские права или фото на Facebook (владелец компания Meta признана в России экстремистской и запрещена) могут быть использованы им во вред», — заявил Уильямс.