Поделиться
Пожилой мужчина провел год в тюрьме из-за показаний супердорогого искусственного интеллекта
Американец Майкл Уильямс намерен засудить власти и полицию своего города (Чикаго) за год, проведенный в тюрьме по обвинению в убийстве, которое он не совершал. На него как на единственного подозреваемого указала программа искусственного интеллекта, которая, как выяснилось, регулярно ошибается. Эта программа обходится городскому бюджету в десятки миллионов долларов.
Бездушная программа ломает судьбы людей
65-летний американец Майкл Уильямс (Michael Williams) провел год в тюрьме, куда его упрятали алгоритмы искусственного интеллекта, пишет Associated Press. Проведя год за решеткой и потратив еще год на реабилитацию после заключения, Уильямс подал в суд на администрацию города Чикаго (США), в котором он проживает.
В иске Уильямса сказано, что его посадили в тюрьму исключительно на основе данных программы ShotSpotter со встроенным искусственным интеллектом. Она используется для обнаружения выстрелов. Утилита указала на Уильямса как на потенциального преступника, а правоохранительные органы, решив, что этих данных более чем достаточно, добились его ареста и заключения под стражу.
ShotSpotter использует большую сеть аудиосенсоров, распределенных по определенной области, чтобы улавливать звуки выстрелов. Датчики взаимодействуют друг с другом, чтобы триангулировать место выстрела, поэтому преступники не могут прятаться за стенами или другими конструкциями, чтобы замаскировать свое преступление.
Уильямс утверждает, что полицейские «слепо верили» в ShotSpotter, что не только привело к необоснованному аресту, но и конечном счете помешало полиции расследовать другие версии преступления, в котором, со слов истца, он не замешан. Правоту Уильямса в суде отстаивает правозащитная группа MacArthur Project.
Начало истории
Уильямс был арестован в связи со смертью 25-летнего Сафаряна Херринга (Safarian Herring), молодого человека, проживавшего по соседству с ним. Его убили в мае 2020 г.
По словам Уильямса, он был за рулем своего автомобиля, когда увидел голосующего на обочине Херринга, своего соседа по кварталу. Уильямс согласился подвезти молодого парня. Некоторое время спустя неизвестный автомобиль поравнялся с транспортным средством Уильямса и некто, расположившийся на пассажирском сидении, достал пистолет и выстрелил Херрингу в голову, рассказал Уильямс полицейским.
Уильямс отвез парня в больницу, однако тот все равно впоследствии скончался от полученных огнестрельных ранений, а пожилой чернокожий мужчина оказался главным и единственным подозреваемым в его убийстве.
По данным Associated Press, ключевой уликой для ареста Уильямса был отрывок видео с камеры наблюдения без аудиодорожки, на котором его автомобиль проезжает через перекресток. Запись использовалась в сочетании с громким звуком, зафиксированным сетью микрофонов ShotSpotter.
Выйти на свободу Уильямс смог лишь в июле 2021 г.
Чрезмерно уверенный в своих силах алгоритм
Эксперты MacArthur Project, взявшись помогать Майклу Уильямсу, провели свое исследование и выяснили, что система ShotSpotter имеет слишком высокий процент ложных срабатываний. 89% предупреждений, которые система отправила правоохранительным органам в 2021 г., не содержат никаких доказательств преступлений, связанных с оружием. «Менее чем за два года было совершено более 40 тыс. ложных срабатываний ShotSpotter», – говорится в отчете MacArthur Project.
Одним из ответчиков по иску Уильямса проходит полицейское управление Чикаго. Оно обвиняется в том, что оно не расследовало другие версии, а решило довериться искусственному интеллекту.
Власти так и не установили, что должно быть мотивом Уильямса, не нашли огнестрельного оружия или каких-либо вещественных доказательств, доказывающих, что Уильямс стрелял в Херринга, указывается в иске.
С выводами MacArthur Project категорически не согласны авторы системы ShotSpotter. Они утверждает, что их технология имеет уровень точности 97%, а количество ложных срабатываний не превышает 0,5%.
Дорогой и потенциально обреченный искусственный интеллект
Иск Уильямса против властей Чикаго может иметь далеко идущие последствия. В случае если суд встанет на его сторону, то полиции Чикаго, вероятно, придется полностью отказаться от использования ShotSpotter.
Как пишет портал Futurism, в 2021 г. власти Чикаго без лишнего шума продлили контракт на пользование данной технологией. Продление лицензии обошлось городскому бюджету в $33 млн. Если правота Уильямса будет доказана в суде, это может сильно навредить процессу интеграции искусственного интеллекта в деятельность полиции по всей территории США.
Вероятность победы Уильямса в суде довольно высока. По данным Futurism, в 2021 г. искусственный интеллект ShotSpotter допустил несколько ошибок. В результате одной из них в тюрьме оказался невиновный человек, а в другом случае некорректная работа ShotSpotter привела к гибели безоружного ребенка.
Виртуальному разуму доверять нельзя
Современные технологии, основанные на машинном обучении и искусственном интеллекте, так и норовят посадить кого-нибудь в тюрьму. Например, в январе 2020 г. в Детройте (США) по наводке системы распознавания лиц произошел арест афроамериканца Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams).
Полицейские задержали Уильямса и доставили его в участок, где объяснили, что «умная» система распознавания лиц определила в нем преступника, ограбившего магазин еще в 2018 г. В итоге полицейские обнаружили, что система ошиблась, но к этому времени пострадавший уже успел провести 30 часов за решеткой.
Российские технологии искусственного интеллекта недалеко ушли в этом плане от американских. В ноябре 2020 г. CNews писал, что из-за внутреннего сбоя система распознавания лиц одного из магазинов «Ашан» в Москве указала на невиновного человека как на преступника. Охранники магазина незаконно задержали его на два часа, после чего передали полицейским, которые угрожали ему обыском дома и годами тюрьмы. Причину задержания пострадавшему раскрыли спустя пять часов и только после приезда адвоката.
Пострадавшим оказался житель Москвы Антон Леушин. Из-за ошибки искусственного интеллекта он мог провести в тюрьме восемь лет своей жизни «Новая “автоматическая система распознавания лиц” “Ашана” определила во мне преступника, который за три недели до этого вынес из “Ашана” элитный алкоголь на сумму 78 тыс. руб. На фото с камер и видео был человек среднего телосложения в черной кепке, черной кофте, синих джинсах, с обычной белой медицинской маской на лице, из-под которой была видна борода. По этим “особым” приметам система указала на меня», – написал Антон Леушин на своей станице в одной из социальных сетей.
От тюрьмы Антона Леушина спас нанятый им адвокат, который доходчиво объяснил полицейским, что их обвинения беспочвенны. После этого пострадавший был отпущен на свободу без составления протокола.
Короткая ссылка
