Technologia deepfake, która wykorzystuje sztuczną inteligencję do “cyfrowego” podszywania się pod ludzi, ich głos oraz zachowanie, rozwija się niesamowicie szybko. W ostatnich latach mogliśmy zobaczyć także kilka pozytywnych deepfake’ów – wskrzeszających aktorów, muzyków czy celebrytów. Pozytywną na pewno nie jest sytuacja, która dotknęła jedną z firm w Hongkongu. Zdarzenie zakończyło się stratą ogromnej ilości pieniędzy.
15 przelewów na 25 milionów dolarów
Ofiarą oszustwa padł hongkoński oddział dużej, międzynarodowej korporacji. Pracownik rzekomo otrzymał wiadomość od dyrektora finansowego firmy z siedzibą w Wielkiej Brytanii – z prośbą o pilny i poufny transfer środków. Chociaż od samego początku wspomniany pracownik był podejrzliwy co do całej sytuacji, jego wątpliwości zostały rozwiane po dołączeniu do wideokonferencji. Na tym konkretnym “callu” pojawiły się inne osoby. Niestety, nieprawdziwe. Specjalnie wygenerowane deepfake’i podszywały się pod właściwego dyrektora finansowego oraz innych pracowników korporacji.
Przekonany realizmem fałszywego materiału wideo, pracownik postępował zgodnie z instrukcjami podawanymi przez cybeprzestępców podczas rozmów. W ciągu tygodnia dokonał on 15 przelewów na łączną kwotę około 25,6 miliona dolarów. Gotówka trafiła na różne konta bankowe w Hongkongu, które były kontrolowane bezpośrednio przez oszustów.
Skomplikowane oszustwo zostało odkryte dopiero tydzień później, gdy pracownik skontaktował się z centralą firmy z pytaniami dotyczącym swojej transakcji. Niestety, było już na to za późno – pieniądze zniknęły na dobre. Chociaż policja w Hongkongu dokonała kilku aresztowań związanych z wykorzystaniem deepfake’ów w cyberprzestępstwach, żaden sprawca nie został jeszcze zatrzymany w tej sprawie, która jednocześnie stanowi jeden z pierwszych znanych na świecie poważnych przypadków wykorzystania deepfake’ów do skutecznego wyprowadzenia pieniędzy poza atakowaną firmę.
Jak to w ogóle możliwe?
Jak oszuści byli w stanie stworzyć tak realistyczne duplikaty nagrań, aby oszukać wspomnianego pracownika? Zazwyczaj tego typu projekty są tworzone przez specjalnie skonfigurowane algorytmy, które wykorzystują wiele godzin nagrań jednej osoby – najczęściej pokazanej z wielu perspektyw.
AI tworzy w ten sposób swoisty, cyfrowy model, który następnie można animować i podkładać pod niego rzeczywisty głos – emulując dokładnie te słowa, na których nam zależy. Mając wystarczającą ilość materiałów wideo z firmowych spotkań, wystąpień publicznych, czy materiałów reklamowych, można stworzyć przerażająco wiarygodne deepfake’i.
Opisywany przeze mnie przypadek z Hongkongu po raz kolejny pokazuje, jak ogromny potencjał mają fałszywe wideo podszywające się pod rzeczywiste osoby.
Obecnie, wszystkie firmy technologiczne muszą stworzyć lepsze narzędzia do wykrywania deepfake’ów, aby ułatwić identyfikację fałszywych filmów i zdjęć. To kluczowa sprawa, nad którą pracuje chociażby Facebook – jedna z platform najbardziej podatnych na manipulacje i szerzenie fałszywych wiadomości.
Oprócz platform social media możemy spodziewać się, że w najbliższych latach organy rządzące w wielu państwach na całym świecie wprowadzą przepisy dotyczące tworzenia i dystrybucji deepfake’ów, aby zniechęcić do ich złośliwego wykorzystywania. Na ten moment tylko działania prewencyjne, takie jak weryfikacja tożsamości przy użyciu alternatywnych metod przed przesłaniem środków lub poufnych danych, unikanie odizolowanych połączeń wideo w celu omówienia finansów i zgłaszanie podejrzanych działań może pomóc w zwalczaniu oszustw typu deepfake.
Bycie świadomym i ostrożnym zawsze było mądrą praktyką podczas korzystania z sieci, ale teraz bardziej niż kiedykolwiek musimy podchodzić do materiałów wideo i interakcji online ze sceptycyzmem – bez względu na to, jak prawdziwe mogą się one wydawać na pierwszy rzut oka.
źródło: The Register / fot. DALLE-3