Algorytm portalu YouTube nieco zwariował – zaczął bowiem polecać nieletnim użytkownikom filmy o broni palnej. Niektóre materiały znajdujące się w rekomendacjach zawierały sceny ze szkolnych strzelanin, a także instrukcje dotyczące używania i modyfikowania pistoletów. Doniesienia zostały już potwierdzone przez wpływową organizację non-profit. Przyjrzyjmy się sprawie nieco bliżej, bo jest naprawdę poważna.
YouTube poleca dzieciom nieodpowiednie treści
Historia niejednokrotnie udowodniła, iż zaawansowane algorytmy implementowane w popularnych usługach społecznościowych także posiadają liczne ułomności. Za przykład niech posłuży TikTok, który pewnego razu po prostu zwariował i zaczął masowo wyświetlać zdjęcia nagich kobiet. Błąd dotknął dosłownie wszystkich użytkowników – także tych poniżej osiemnastego roku życia. Teraz czas spojrzeć na „czerwonych”, bowiem dzieje się tam coś co najmniej niepokojącego.
Organizacja non-profit o nazwie Tech Transparency Project postanowiła przyjrzeć się zgłoszeniom odnośnie do podejrzanych rekomendacji na YouTube. Dzieci przeglądające materiały o grach wideo miały dostrzec na liście polecanych filmów pozycje dotyczące broni palnej, co rzecz jasna nie powinno mieć miejsca. Przeprowadzone badanie potwierdziło krytyczny problem algorytmu.
Źródło: TTP
Założono cztery konta testowe – dwa „należące” do dziewięcioletnich chłopców i dwa do czternastoletnich chłopców. Badacze oglądali na nich filmy dotyczące wyłącznie gier wideo. Profile przypisane do młodszego dziecka śledził klipy z Robloxa, LEGO Star Wars oraz Five Nights at Freddy’s, natomiast na tych drugich uruchamiane były materiały z Grand Theft Auto, Halo, a także Red Dead Redemption. Jakie były rezultaty tego eksperymentu?
Cóż, okazało się, że YouTube polecał treści dotyczące strzelanin na WSZYSTKICH kontach – bez różnicy czy ktoś przeglądał filmiki z Robloxa czy GTA. Rekomendacje obejmowały ujęcia z masowych rozbojów, demonstracje ukazujące szkody mogące zostać wyrządzone przez broń czy poradniki dotyczące przekształcania pistoletów w broń automatyczną. Spora część z tych klipów naruszała zasady wypisane w regulaminie platformy.
Źródło: TTP
Rzecznik prasowy YouTube przesłał specjalne oświadczenie redakcji portalu Endgadget:
YouTube Kids i narzędzia nadzoru w aplikacji głównej witryny tworzą coraz bezpieczniejsze doświadczenie dla dzieci i nastolatków na swojej platformie […] Z zadowoleniem przyjmujemy badania nad naszymi zaleceniami i szukamy więcej sposobów na zaangażowanie naukowców akademickich do badania naszych systemów. Ale przeglądając metodologię tego raportu, trudno nam wyciągnąć mocne wnioski. Na przykład, badanie nie dostarcza kontekstu, ile filmów zostało zarekomendowanych kontom testowym, a także nie daje wglądu w to, jak konta testowe zostały skonfigurowane, w tym czy zastosowano narzędzia YouTube Supervised Experiences.
Wszystko super, ale YouTube nadal oferuje treści nieodpowiednie i łamiące regulamin – wszystko to pomimo zapewnień i ulepszeń algorytmu. Sytuacja nie prezentuje się wiec kolorowo i przed Google pozostało jeszcze mnóstwo pracy, by stać się „bezpiecznym miejscem”.