Безвинный студент требует у Apple $1 млрд за то, что ее система распознавания лиц сдала его в полицию

Безопасность Стратегия безопасности Бизнес Законодательство Техника
мобильная версия
, Текст: Валерия Шмырова 6727

Студент из Нью-Йорка пытается отсудить у Apple $1 млрд за то, что ее система распознавания лиц натравила на него полицию за кражу, которую он не совершал. Настоящий вор нашел потерянные студентом документы и использовал их для подтверждения личности в магазине Apple. После этого система распознавания лиц Apple начала ассоциировать имя студента с внешностью преступника.


Ошибка системы

Студент из Нью-Йорка через суд требует у Apple $1 млрд за то, что ее система распознавания лиц ложно связала его с серией ограблений, имевших место в магазинах компании. Студента зовут Усман Ба (Ousmane Bah), ему 18 лет, сообщает Bloomberg.

По словам Ба, он был арестован 29 ноября 2018 г. в своем доме в Нью-Йорке. Ему предъявили обвинение в серии ограблений магазинов Apple в Бостоне, Нью-Джерси, Делавэре и Манхэттене. К ордеру на арест прилагалось фото, но человек на нем не был похож на Ба, утверждает истец.

Кроме того, у Ба есть алиби — одно из ограблений, в которых его обвинили, произошло в Бостоне в тот самый июньский день, когда он веселился на своем выпускном балу в Манхэттене. Из бостонского магазина Apple были украдены товары на сумму $1,2 тыс.

Истец утверждает, что какое-то время назад он потерял ученические водительские права, на которых не было фото. Кто-то мог украсть или просто найти этот документ, а потом использовать его для подтверждения личности в магазине Apple. Из-за этого, считает студент, система распознавания лиц Apple могла внести в свою базу лицо грабителя и подписать его именем Ба.

Истец утверждает, что Apple использует систему распознавания лиц в магазинах для поиска посетителей, которые подозреваются в кражах. При этом покупатели не знают, что их лица сканируются и подвергаются анализу. Детектив, расследовавший дело Ба, лично просмотрел видео с камер, которые засняли вора, и был вынужден признать, что Ба на него не похож. Именно детектив и рассказал студенту, что дело может быть в системе распознавания лиц и утерянных документах.

aappllee600.jpg
Система распознавания лиц Apple назвала вором невинного человека

Из-за ошибки системы Ба был вынужден отбиваться от многочисленных ложных обвинений, что привело к тяжелому стрессу и другим жизненным трудностям, гласит иск. В качестве ответчика указана не только Apple, но и компания Security Industry Specialists Inc., которая предоставляет услуги в сфере безопасности.

Похожие случаи

Это не первый случай, когда на основании данных, собранных технологическими компаниями, невиновному человеку предъявляются обвинения в совершении преступления. Ранее CNews писал, что на основании геолокационных данных Google 24-летнего жителя Аризоны Хорхе Молину (Jorge Molina) арестовали за убийство, которого он не совершал.

В специальной базе Google хранит историю перемещений пользователей за последние десять лет. Правоохранительные органы регулярно требуют у компании эти данные для расследований, получив предварительно судебный ордер. Компания передает полиции траектории движения всех пользователей на определенном участке в определенный промежуток времени, не называя имен. Полиция сужает круг до тех пользователей, которые были рядом с местом преступления, тогда Google раскрывает имена.

Против Молины у полиции имелись и другие доказательства — камера наблюдения сняла на видео автомобиль, очень похожий на принадлежащую ему белую Honda Civic. На видео из окна автомобиля кто-то стрелял из огнестрельного оружия. Номерные знаки авто в кадр не попали, поэтому самой по себе пленки было недостаточно для ареста. Но местоположение автомобиля на видео и данные Google о телефоне Молины совпали, на основании чего он и был арестован по подозрению в убийстве.

Однако вскоре выяснились новые обстоятельства. Молина сказал, и это впоследствии подтвердилось, что бывший бойфренд его матери Маркос Гаэта (Marcos Gaeta) иногда берет его автомобиль. Кроме того, у Молины появилось алиби — его подруга сказала адвокату защиты, что в вечер убийства была с подозреваемым у него дома. Вскоре адвокат выяснил, что Молина иногда использовал телефоны других людей, чтобы проверить свой аккаунт Google. Таким образом, в системе сбора геоданных он мог одновременно находиться в нескольких местах.

Данная ситуация очень похожа на случай Ба и Apple. Сами по себе система геолокации Google и система распознавания лиц Apple сработали корректно: правильно отследили геолокацию, смогли соотнести лицо человека с именем. Но определенные действия людей, такие как использование чужих документов или устройств, заставили системы ошибиться.

Следствие осознало свое заблуждение, и уже Гаэта был арестован по подозрению в том же убийстве. Молину освободили через неделю после задержания, однако пережитый стресс все еще сказывался на его здоровье несколько месяцев спустя. Кроме того, задержание было проведено на рабочем месте Молины, из-за чего его уволили из компании, где он работал.