Algorytm Google pomylił inżyniera z… seryjnym mordercą

Nie po raz pierwszy możemy zobaczyć, jak dokładnie wyglądają błędy popełniane przez algorytmy oraz jakie mogą mieć konsekwencje w przyszłości. Dzisiejszym przykładem niech będzie praca Google. Tym razem nie mamy do czynienia z kierowaniem rasistowskich haseł w stronę użytkowników czy też obrażaniem przez boty.

Sztuczna inteligencja amerykańskiej firmy błędnie zidentyfikowała jednego z inżynierów i oznaczyła go jako seryjnego mordercę. Ofiarą stał się Hristo Georgiev pochodzący ze Szwajcarii.

Kuriozalna pomyłka sztucznej inteligencji od Google

Ofiarą ostatniej pomyłki algorytmów od Google stał się Hristo Georgiev – inżynier pochodzący ze Szwajcarii. Georgiev odkrył, iż wyszukiwanie jego nazwiska w Google prowadzi do specjalnej strony na Wikipedii, która dotyczy… seryjnego mordercy.

“Wydawało mi się, że ktoś próbuje zrobić mi jakiś dowcip, ale po otwarciu konkretnego artykułu w Wikipedii moje zdjęcie zniknęło” – mówi Georgiev.

Przyczyną opisywanego błędu był najprawdopodobniej specjalny graf Google, który generuje dane dotyczące wyników wyszukiwania. Algorytm mógł dopasować zdjęcie szwajcarskiego inżyniera do wpisu w Wikipedii, ponieważ morderca posługiwał się tym samym nazwiskiem. Podobna sytuacja miała już miejsce wcześniej, kiedy algorytmy Google “uśmierciły” aktora Paula Campbella, a także zaklasyfikowały ideologię Kalifornijskiej Partii Republikańskiej jako nazizm.

Google zareagowało na zgłoszenie Georgieva bardzo szybko oraz usunęło błędnie powiązane dane. Tego typu dezinformacja może mieć w przyszłości bardzo poważne konsekwencje. Szczególnie jeśli będzie dostępna w sieci przez dłuższy okres czasu.

Google pokazuje również, że nie myli się po raz pierwszy, a same algorytmy, z których korzysta amerykańska firma zdecydowanie wymagają dopracowania oraz poprawienia. Na pewno nikt z nas nie chciałby zostać w ten sposób pomylony lub zakwalifikowany jako… seryjny morderca.

Sprawa szwajcarskiego inżyniera pociesza jednak o tyle, że widać, iż sztucznej inteligencji zajmie jeszcze długo zanim przestanie być algorytmem pisanym przez człowieka, a stanie się osobnym, “inteligentnym” bytem.

Źródło: Twitter / fot. Kyle Johnson – Unsplash