Rozpoznawanie twarzy okazało się winne niesłusznego aresztowania 32-letniej kobiety przez policję w Detroid. Przesłuchanie trwało 11 godzin, a podczas tego czasu podejrzana nie miała dostępu do swojego smartfona. Jest to niezwykle istotne, ponieważ kobieta znajdowała się w ósmym miesiącu ciąży. Wydarzenie więc nie tylko ją wymęczyło, ale uniemożliwiło kontakt z zaniepokojoną rodziną. Zerknijmy na to wszystko nieco bliżej.
Rozpoznawanie twarzy błędnie zidentyfikowało przestępczynię
Technologia pozwalająca na rozpoznawanie twarzy nie jest idealna. Niekiedy jesteśmy tego świadkami, co dobitnie pokazuje tytułowa historia. Mamy tu przy okazji do czynienia z absurdalnym zachowaniem służb, które ślepo zaufały systemowi. Zarejestrowane nagranie z monitoringu przedstawiało bowiem kobietę z płaskim brzuchem, natomiast niewinna osoba była w zaawansowanej ciąży. Policja nie zwróciła jednak na to uwagi.
Dobra, ale zacznijmy od początku. Chodzi o kradzież, napad i porwanie samochodu – takie zarzuty zostały postawione sprawczyni. Przestępstwo zgłosił poszkodowany mężczyzna, natomiast lokalna policja w Detroit skorzystała z narzędzia DataWorks Plus, by porównać nagrania z monitoringu z bazą danych zdjęć twarzy. Tak się złożyło, iż Porcha Woodruff została aresztowana w 2015 roku i dlatego znajdowała się w rozpisce. Rozpoznawanie twarzy zidentyfikowało zdjęcie jako pasujące, więc niezwłocznie udano się pod dom kobiety.
Ta została poproszona o weryfikację grafiki i potwierdziła, że to jej wizerunek. W ten sposób trafiła do aresztu, natomiast policji nic więcej nie interesowało. Przesłuchiwała ją 11 godzin, zabrała smartfon i koniec końców zwolniła za kaucją w wysokości 100 000 dolarów. Dopiero miesiąc później zarzuty przeciwko niej zostały oddalone przez prokuraturę. Oczywiście kobieta złożyła pozew o niesłuszne aresztowanie, co nie przeszło obojętnie obok szefa policji w Detroit. Mężczyzn oświadczył, że sprawa jest traktowana śmiertelnie poważnie.
To nie pierwszy przypadek, gdy zawiodło rozpoznawanie twarzy
Najnowsze raporty wskazują, że to już szósty taki przypadek zgłoszony w ostatnim czasie, natomiast trzeci mający miejsce w Detroit. Rozpoznawanie twarzy więc dosyć mocno zawodzi i coraz głośniej mówi się o procesach sądowych związanych z niesłusznymi aresztowaniami, do których wykorzystano wyżej opisaną technologię.
American Civil Liberties Union of Michigan oraz szereg innych organizacji wzywają do gromadzenia większej ilości dowodów w tego typu sprawach. Dzięki temu jest szansa, że uniknie się nie tylko stosowania szkodliwych praktyk, ale także udoskonalenia samej technologii.
Jej głównymi słabymi punktami są obecnie niesprawdzone algorytmy, stronniczość w zestawach danych szkoleniowych, różne kąty fotografowania oraz niskiej jakości obrazy wykorzystywane do identyfikacji podejrzanych. Całość opiera się także na sprawdzaniu struktury twarzy, co jednak nie jest wystarczająco unikalnym identyfikatorem.
Do tego dochodzi rzecz jasna bezgraniczne ufanie technologii. Amerykańska policja ma tendencję do ufania wynikom podawanym przez maszyny – nawet jeśli gołym okiem widać, że sytuacja prezentuje się nieco inaczej.
Sprawa jest więc niezwykle poważna i miejmy nadzieję, iż tytułowa sytuacja przyczyni się do poprawy nie tylko technologii, ale i traktowania aresztowanych osób. Woodruff trafiła bowiem po wszystkim do szpitala z powodu odwodnienia i traumy.
Przerażające…
Źródło: Ars Technica / Zdjęcie otwierające: freepik.com (@freepik)