Zrobił zdjęcie choremu dziecku – Google zablokowało mu konto

Zaniepokojony ojciec, który wykonał zdjęcie infekcji znajdującej się na pachwinie swojego dziecka został ukarany przez Google – jego konto zostało zablokowane, a sam użytkownik został potraktowany jako kryminalista. Całą sprawę szeroko opisuje The New York Times zwracając uwagę na (nie zawsze właściwe) działanie algorytmów.

Google wykrywając zdjęcie na urządzeniu ojca zablokowało jego konta i przekazało raport do NCMEC, tym samym rozpoczynając policyjne śledztwo w tej sprawie.

Apple oberwało po głowie za podobny pomysł

W 2021 roku Apple oberwało za chęć wdrożenia podobnej technologii, która miała z założenia monitorować zdjęcia na urządzeniu użytkownika w celu zapewnienia dzieciom bezpieczeństwa. Całość była oznaczona jako CSAM. Niektóre grupy non-profit i analitycy zwracali uwagę, że Apple projektuje swoisty backdoor. Jak widać Google nie jest lepsze.

Incydent, na który zwróciło uwagę The New York Times miał miejsce w lutym 2021 roku. Ojciec zrobił zdjęcie pachwiny swojego dziecka na prośbę lekarza – tak, aby zachować dystans społeczny i szybciej uzyskać pomoc. Lekarz przepisał antybiotyki, które wyleczyły infekcję, ale Google nie było już tak łagodne. Dwa dni po zrobieniu zdjęć Mark otrzymał powiadomienie od Google, iż jego konta zostały zablokowane z powodu “szkodliwych treści”.

fot. Reza Rozstamipscheh – Unsplash.com

Google nie jest jedyną firmą, która używa podobnej technologii. Działa ona również w ramach Facebooka, Twittera czy Reddita. Microsoft korzysta z kolei z autorskiego PhotoDNA w celu skanowania zdjęć w ramach dopasowania ich do wytycznych CSAM.

Poszkodowany ojciec skończył na utracie dostępu do swoich maili, kontaktów, zdjęć, a nawet numeru telefonu (ponieważ korzystał z usługi Google Fi). Firma z Mountain View odrzuciła apelację użytkownika i podtrzymała opisywany przeze mnie zakaz.

Takich sytuacji w przyszłości może być więcej. Pytanie, jak na to wszystko zareagują sami użytkownicy i fani Androida, którzy tak bardzo krytykowali Apple przed wdrożeniem nowych technologii bezpieczeństwa.

Źródło: NY Times / fot. Flavia Gava – Unsplash