Rekordy popularności bił nasz wczorajszy news o nowej aplikacji bazującej na deepfake AI. Apka DeepNude Desktop umożliwiała „rozebranie” dowolnej kobiety na zdjęciu za pomocą jednego tylko kliknięcia myszy. Więcej na jej temat przeczytacie w tym miejscu. Po chwilowym wstrzymaniu dystrybucji narzędzia, ta miała być wznowiona w przeciągu „kilku dni”. Stanie się jednak inaczej.
Alberto, anonimowy twórca programu, obserwując rosnące lawinowo zainteresowanie i czytając komentarze internautów na temat swojego dzieła, podjął decyzję o bezterminowym zawieszeniu prac nad apką. Ponadto, zrezygnował również z jej udostępniania – na bliżej nieokreślony czas.
Program DeepNude Desktop wzbudził kolosalne kontrowersje i podzielił internautów. Za pomocą narzędzia bazującego na otwartoźródłowym algorytmie pix2pixmożna było tworzyć tak realistyczne przeróbki, że mogły one dosłownie zniszczyć komuś życie. Domyślacie się zapewne, że wśród internautów nie brakuje osób złośliwych, które chciały wykorzystać program do naprawdę złych rzeczy.
Twórca aplikacji za pośrednictwem swojego Twittera napisał:
„Oto krótka historia i koniec DeepNude. Stworzyliśmy ten projekt z myślą o dobrej zabawie kilka miesięcy temu. Myśleliśmy, że uda nam się osiągnąć sprzedaż na poziomie kilku kont Premium w miesiącu, w sposób kontrolowany. Szczerze, ta aplikacja nie jest idealna i działa dobrze tylko z niektórymi zdjęciami. Nigdy nie spodziewaliśmy się, że stanie się ona viralem i nie będziemy w stanie zapanować nad ruchem kierowanym na stronę projektu. Bardzo nie doceniliśmy swojego dzieła.
Pomimo działań podjętych celem ochrony osób na przerabianych zdjęciach (znaki wodne informujące o tym, że zdjęcia to fake’i, jeśli z DeepNude korzystałoby 500 000 osób, to istnieje zbyt duże ryzyko tego, że robiłyby to one w nienależyty sposób. Nie chcemy zarabiać pieniędzy w taki sposób. Jasne, zapewne DeepNude będzie udostępniany dalej w sieci, ale nie chcemy być tymi, którzy będą to robić. Z resztą, udostępnianie programu i pobieranie go ze strony innej, niż nasza, stanowi złamanie warunków użytkowania programu. Od teraz DeepNude nie zostanie wydany w innych wersjach – nikt nie będzie mógł też z niego legalnie korzystać. Nawet osoby, które wykupiły wersję Premium.
Osoby, które wykupiły wariant Premium, otrzymają zwrot pieniędzy.
Świat nie jest jeszcze gotowy na DeepNude.”
— deepnudeapp (@deepnudeapp) June 27, 2019
Twórca ewidentnie przestraszył się popularności „niewinnego” narzędzia i ewentualnych konsekwencji prawnych ze strony osób poszkodowanych działaniem programu. Jednego nie można odmówić Alberto: zdolności do refleksji nad swoim postępowaniem. Za pomocą DeepNude można było wyrządzić komuś realną, nawet jeśli nienaumyślną, krzywdę.
Oczywiście chętni zapewne bez większego problemu znajdą program w odmętach sieci, zgodnie z zasadą mówiącą, że w Internecie nic nie ginie.
Czy sądzicie, że dobrze się stało, że twórcy zrezygnowali z dystrybucji swojego narzędzia? A może twierdzicie, że aplikacja sama w sobie była nieszkodliwa i pokazywała jedynie możliwości sztucznej inteligencji?
Źródło: inf. własna, Twitter