Amazon i rozpoznawanie twarzy

Reklama

Amazon wstrzymuje korzystanie z oprogramowania do rozpoznawania twarzy przez policję

Firma powiedziała, że ​​ma nadzieję, że moratorium „da Kongresowi wystarczająco dużo czasu na wprowadzenie odpowiednich zasad” dla tej technologii.

amazon i rozpoznawanie twarzy
Zwolennicy wolności obywatelskich zaczęli wzywać do wprowadzenia zakazu rozpoznawania twarzy przez organy ścigania w 2018 r.Kredyt…Elaine Thompson / Associated Press

SEATTLE – Amazon powiedział w środę, że odkłada roczną przerwę na pozwolenie policji na korzystanie z narzędzia do rozpoznawania twarzy , co jest głównym sygnałem rosnących obaw, że technologia ta może prowadzić do niesprawiedliwego traktowania Afroamerykanów.

Gigant technologiczny nie wyjaśnił swojego uzasadnienia w swoim krótkim wpisie na blogu o zmianie, ale ruch ten nastąpił wśród ogólnokrajowych protestów przeciwko rasizmowi i stronniczości policji. Technologia Amazon była w przeszłości krytykowana za błędne rozpoznawanie ludzi koloru.

W swoim blogu firma powiedziała, że ma nadzieję, że moratorium na jego usługi, Rekognition, „może dać Kongresowi wystarczająco dużo czasu na wprowadzenie odpowiednich zasad” dotyczących etycznego stosowania rozpoznawania twarzy.

Ogłoszenie było uderzającą zmianą dla Amazon, wiodącego dostawcy oprogramowania do rozpoznawania twarzy dla organów ścigania. Bardziej niż inne duże firmy technologiczne, Amazon opierał się rozmowom spowalniającym wdrażanie. W przeszłości Amazon twierdził, że jego narzędzia są dokładne, ale są niewłaściwie używane przez badaczy.

W poniedziałek IBM zapowiedział, że przestanie sprzedawać produkty do rozpoznawania twarzy, aw ubiegłym roku wiodący producent kamer policyjnych zabronił używania rozpoznawania twarzy w swoich produktach na zalecenie niezależnej rady etycznej, która powiedziała, że ​​technologia „nie jest obecnie wystarczająco wiarygodny, aby etycznie uzasadnić jego użycie. ” Google opowiadał się za tymczasowym zakazem technologii.

Amerykańska Unia Wolności Obywatelskich przyklasnęła Amazonowi w oświadczeniu za „wreszcie uznanie niebezpieczeństw, jakie stoją przed uznaniem społeczności Black and Brown i praw obywatelskich w szerszym ujęciu”. Powiedział jednak, że firma powinna przedłużyć moratorium na stosowanie swojego systemu przez organy ścigania, dopóki Kongres nie wyda ustawy regulującej technologię.

„Technologia rozpoznawania twarzy daje rządom bezprecedensową moc szpiegowania nas, gdziekolwiek jesteśmy”, powiedziała Nicole Ozer, dyrektor ds. Technologii i wolności obywatelskich w ACLU w Północnej Kalifornii. „To podsyca nadużycia policji. Tę technologię nadzoru należy zatrzymać. ”

Organy ścigania używają technologii rozpoznawania twarzy do identyfikacji podejrzanych i zaginionych dzieci. Systemy działają, próbując dopasować dane wzoru twarzy wyodrębnione ze zdjęć lub wideo z danymi w bazach danych, takimi jak zapisy prawa jazdy. Władze wykorzystały tę technologię, aby pomóc zidentyfikować podejrzanego podczas masowej strzelaniny w gazecie w zeszłym roku w Annapolis, MD.

Amazon i rozpoznawanie twarzy – co dalej…

Ale grupy wolności obywatelskich ostrzegły, że technologii można używać na odległość do potajemnego identyfikowania osób – takich jak protestujący biorący udział w demonstracjach – potencjalnie osłabiających prawo Amerykanów do wolności słowa lub po prostu ograniczających ich zdolność do anonimowego publicznego prowadzenia działalności. Niektóre miasta, w tym San Francisco i Cambridge, Massachusetts, wprowadziły zakaz technologii.

Zwolennicy swobód obywatelskich rozpoczęli kampanię zakazującą stosowania rozpoznawania twarzy przez organy ścigania w 2018 r. Po tym, jak raport naukowców odkrył uprzedzenia rasowe w systemach. Raport wykazał, że technologie twarzy wykonane przez IBM i Microsoft były w stanie poprawnie zidentyfikować płeć białych mężczyzn na zdjęciach przez około 100 procent czasu. Ale systemy były znacznie mniej dokładne pod względem zdolności do identyfikacji płci ciemnoskórych kobiet.

IBM i Microsoft szybko ulepszyły swoje systemy. Amazon znalazł się pod wzmożoną kontrolą.

Od dwóch lat ACLU prowadzi kampanię nakłaniającą Amazon do zaprzestania sprzedaży technologii organom ścigania. Grupa otrzymała dokumenty, korzystając z otwartych przepisów informacyjnych, od departamentów policji, które pokazały, jak Amazon agresywnie reklamował swoją technologię organom ścigania.

ACLU przetestowało także technologię Amazon, wykorzystując zdjęcia członków Kongresu i porównując je z bazą danych publicznie dostępnych zdjęć z kubka. Grupa poinformowała, że ​​technologia Amazon nieprawidłowo dopasowała 28 członków Kongresu do osób aresztowanych, co stanowi 5-procentowy poziom błędu wśród ustawodawców. W tym czasie Amazon zakwestionował ustalenia, mówiąc, że grupa używała swojego systemu inaczej niż klienci organów ścigania.

Reprezentant Jimmy Gomez, kalifornijski demokrata i jeden z prawodawców błędnie zidentyfikowany w teście ACLU, powiedział, że spotkał się z Amazonem kilkanaście razy. Powiedział, że Amazon był mniej otwarty na krytykę niż jego rówieśnicy technologiczni.

„Moim zdaniem unikali ponoszenia jakiejkolwiek odpowiedzialności za swoją technologię” – powiedział Gomez w środę po ogłoszeniu firmy. „Zawsze mieli jakąś wymówkę”.

Pan Gomez, który jest wiceprzewodniczącym House House on Oververs and Reform, powiedział, że cieszy się, że Amazon wstrzymuje sprzedaż policji.

„Amazon wyczuwa, że ​​naród amerykański nie chce frazesów, jeśli chodzi o radzenie sobie z dysproporcjami w tej chwili” – powiedział. „Chcą konkretnych działań”.

Amazon wprowadził Rekognition w 2016 r. Jako tani, „wysoce skalowalny” sposób identyfikacji obrazów, w tym ludzi, w rozległych bazach danych. Niedługo potem zaczął rzucać policję na narzędzie, aby pomóc w dochodzeniach, a organy ścigania zaczęły stosować tę technologię.

W wywiadzie dla programu PBS „Frontline” na początku tego roku Andy Jassy, ​​dyrektor generalny Amazon Web Services, powiedział, że nie sądzi, aby firma wiedziała, ile departamentów policji wdrażało tę technologię.

Jesienią ubiegłego roku Jeff Bezos, dyrektor Amazon, powiedział, że firma opracowuje przepisy dotyczące prywatności dotyczące rozpoznawania twarzy. Wskazał jednak, że w międzyczasie Amazon będzie nadal sprzedawał narzędzia.

„To doskonały przykład czegoś, co ma naprawdę pozytywne zastosowania, więc nie chcesz hamować tego” – powiedział Bezos. „Jednocześnie istnieje wiele możliwości nadużyć z tego rodzaju technologią, więc potrzebuje przepisów”.

Powiedział, że z zadowoleniem przyjąłby „dobre przepisy” w tej sprawie. „Myślę, że taka stabilność byłaby zdrowa dla całej branży” – powiedział.

Pan Bezos nie podał szczegółowych informacji na temat tego, co pociąga za sobą proponowane przez firmę ustawodawstwo.

Pan Gomez powiedział, że nie widział żadnego prawodawstwa modelowego zaproponowanego przez Amazon, dodając: „To byłaby dla mnie nowość”.

Karen Weise relacjonowała z Seattle, a Natasha Singer z Nowego Jorku. David McCabe napisał raport z Waszyngtonu.

Leave a Comment