IBM rezygnuje z rozpoznawania twarzy

Reklama

Gigant oprogramowania IBM ogłosił , że wycofuje z rynku niektóre produkty do rozpoznawania twarzy, i wezwał do „krajowego dialogu” na temat wykorzystania technologii przez amerykańskie organy ścigania.

Ten ruch, który pojawia się, gdy globalne protesty przeciwko rasizmowi i brutalności policji wkraczają w trzeci tydzień, jest znaczącą zmianą w podejściu firmy do uznania twarzy. W listopadzie 2019 r. IBM stwierdził, że „całkowite zakazy dotyczące technologii nie są odpowiedzią na obawy dotyczące konkretnych przypadków użycia”.

Wady technologii rozpoznawania twarzy są dobrze udokumentowane. Badanie z 2018 r. Przeprowadzone przez naukowców z Massachusetts Institute of Technology i Microsoft wykazało, że ciemnoskóre kobiety są błędnie identyfikowane przez takie systemy w 35 procentach przypadków.

„Systemy rozpoznawania twarzy mają wewnętrzne uprzedzenia, ponieważ są przede wszystkim szkolone w bibliotekach białych twarzy”, mówi Alison Powell, etyka danych w Ada Lovelace Institute, Wielka Brytania. „Nie rozpoznają dobrze czarnych i brązowych twarzy”.

Ale rozwiązaniem nie jest szkolenie systemu na bardziej zróżnicowanym zbiorze danych, mówi Powell. „Zwiększa nadzór nad czarnymi i brązowymi ludźmi”.

Decyzja IBM, przedstawiona w liście prezesa Arvinda Krishny do prezesa Kongresu USA, została zgłoszona przez niektóre placówki jako koniec całej działalności związanej z rozpoznawaniem twarzy, ale może nie być tak.

Yoav Goldberg z Allen Institute for AI Israel podkreśla, że ​​w liście napisano, że IBM nie oferuje już oprogramowania ogólnego przeznaczenia do analizy twarzy, co potencjalnie pozostawia miejsce na sprzedaż bardziej dostosowanych systemów. IBM odmówił komentarza do tego artykułu, mówiąc, że list Kryszny jest samodzielny.

Niezależnie od specyfiki, głośne ogłoszenie może mieć szerszy wpływ na korzystanie z rozpoznawania twarzy, mówi Frederike Kaltheuner, specjalista ds. Polityki technicznej w Mozilla Foundation.

Na początku tego roku projekt dokumentu politycznego sugerował, że Unia Europejska rozważa pięcioletni zakaz technologii , chociaż ostateczna opublikowana wersja usunęła tę propozycję. „Jeśli firma taka jak IBM uważa, że ​​rozpoznawanie twarzy jest dla nich zbyt problematyczne, powinno to przywrócić ideę moratorium z powrotem do agendy politycznej w Europie”, mówi Kaltheuner.

Wiele amerykańskich miast, w tym San Francisco, Seattle i Oakland, już zakazało stosowania rozpoznawania twarzy przez policję, a projekt ustawy reformy policji wprowadzony przez amerykańskich demokratów w tym tygodniu zakazałby korzystania z technologii nagranych kamerami noszonymi na ciele.

Ta reakcja wywrze presję na firmy takie jak Amazon , która zaopatruje siły policyjne w Stanach Zjednoczonych w usługi rozpoznawania twarzy, aby ponownie przemyślały swoje podejście. W 2018 r.Amerykańska Unia Wolności Obywatelskich wykazała, że ​​oprogramowanie Amazon nieprawidłowo zidentyfikowało 28 twarzy na policyjnych zdjęciach jako członków Kongresu, a fałszywe dopasowania były nieproporcjonalnie kolorowe.

„W ubiegłym roku rozpoznawanie twarzy stało się hitem z punktu widzenia swobód obywatelskich, naruszenia prywatności oraz wysokiego ryzyka dyskryminacji rasowej i ze względu na płeć”, mówi Nikita Aggarwal z Oxford Internet Institute w Wielkiej Brytanii. To może oznaczać, że systemy nie są już opłacalne, mówi.

Leave a Comment

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

*