Amazon продлила мораторий на использование полицией своего программного обеспечения для распознавания лиц на неопределенный срок, согласно источнику Bloomberg. Это свидетельствует о том, что компания не смогла решить вопросы о способности технологии правильно распознавать людей с темной кожей.
В июне прошлого года Amazon объявила о перерыве на год, чтобы дать законодателям время для регулирования технологии. Эксперименты, показывающие, что алгоритмам иногда сложно идентифицировать людей разных рас, вызвали опасения, что афроамериканцев можно ошибочно принять за подозреваемых в совершении преступлений.
Amazon Web Services выпустила программное обеспечение под названием Rekognition в 2016 году. Оно идентифицирует объекты в неподвижных изображениях и видео. Полиция может использовать эту технологию для поиска подозреваемых в уголовных расследованиях путем записи видеонаблюдения по базам данных фотографий, включая базы данных нынешних и бывших заключенных.
Конкуренты Amazon, Microsoft и Google, обладают схожими возможностями. Программное обеспечение Amazon стало предметом интенсивных дебатов о возможности нового мощного программного обеспечения подорвать права человека после того, как Американский союз гражданских свобод заявил, что такие инструменты могут неправильно идентифицировать людей. Группа подчеркнула отношения Amazon с офисом шерифа в Орегоне и городе Орландо, двумя клиентами, которых Amazon рекламировала в своих маркетинговых материалах.
Amazon защищала продажу Rekognition правоохранительным органам, но давление на компанию усилилось после того, как в январе 2019 года исследование, проведенное двумя исследователями искусственного интеллекта, показало, что программное обеспечение допускает больше ошибок при использовании на людях с более темной кожей, особенно женщинах. Отдельно ACLU протестировал программное обеспечение на членах Конгресса и обнаружил, что 28 из них ложно сопоставлены с фотографиями, непропорционально выбрав депутатов из числа меньшинств.
Leave a Reply