Nasza świadomość gorzej wykrywa deep fake niż niczym nieskrępowany ludzki mózg

W ostatnim czasie technologia deep fake coraz częściej nie jest tylko zwykłą ciekawostką, a realnym narzędziem mogącym wprowadzić w błąd nie tylko zwykłych internautów, ale też chociażby osoby podczas rekrutacji czy polityków. Pod koniec czerwca nawet Rafał Trzaskowski dał się nabrać na deep fake Witalija Kliczko. Zdecydowanie przydały by się nam coraz lepsze i bardziej powszechne metody na wykrywanie komputerowych przeróbek.

Jeśli intencjonalnie nie zastanawiamy się nad obrazem, nasz mózg lepiej analizuje potencjalne deep fakei

W pewnym sensie, jedną mamy zawsze pod ręką, choć ciężko nam dobrze ją wykorzystać. A tak przynajmniej wynika z badań naukowców Uniwersytetu Sydney. Pokazali przypadkowym osobom zestawy 50 obrazów, w których część była realnymi fotografiami, a część komputerowo przerobionymi deep fakeami. O dziwo skuteczność grupy, która sama na bazie własnych obserwacji miała wykryć komputerowe oszustwa, była sporo niższa.

Podczas pomiarów mózgu za pomocą EEG można lepiej ocenić to, czy materiał jest deep fakiem / Foto: Pixabay

Dużo lepiej wypadli badani, którym nie mówiono nic na temat celu pomiaru, a po prostu rejestrowano ich aktywność mózgu podczas oglądania obrazów. Okazało się, że niczym nieskrępowany mózg (czy w pewnym sensie nasza podświadomość) wykrywa poprawnie deep fakei z prawie dwukrotnie lepszą dokładnością niż przy użyciu świadomej oceny. Badani prawidłowo ocenili tylko 37 proc. próbek, a pomiary aktywności mózgu dawały wyniki trafne w 54 proc. przypadków.

Możliwości naszego mózgu dają szansę na opracowanie coraz lepszych rozwiązań wykrywania deep fakeów

Wciąż dokładność nie była bliska 100 proc., ale i tak znacznie lepsza, jeśli świadomie nie zastanawialiśmy się nad obrazem. Jak powiedział profesor Thomas Carlson z Uniwersytetu Sydney – „Fakt, że mózg może wykryć deep fakei oznacza, że obecne deep fakei są wadliwe. Jeśli możemy dowiedzieć się, jak mózg zauważa deep fakei, moglibyśmy wykorzystać te informacje do stworzenia algorytmów do oznaczania potencjalnych deep fakeów na platformach cyfrowych, takich jak Facebook i Twitter.” Według jego spostrzeżeń, headsety z EEG mogłyby pomóc w zapobieganiu przypadków oszustw wykorzystujących mechanizm deep fake, których ostatnio odnotowuje się coraz więcej. Jak dodał profesor – „To co daje nam nadzieję to fakt, że deep fakei są tworzone przez programy komputerowe, a te programy pozostawiają swoiste odciski palców, które można wykryć.„

Zobacz również: Sztuczna inteligencja współautorem artykułu naukowego o samej sobie

Źródło: eurekalert / Foto tytułowe: Pixabay – własne