OpenAI, organizacja stojąca ChatGPT i DALL-E, bada obecnie możliwość zezwolenia swoim modelom sztucznej inteligencji na generowanie treści NSFW. Wszystko to oczywiście w odpowiedzialny i odpowiedni dla wieku sposób. Oznacza to znaczącą zmianę w stosunku do poprzedniego stanowiska, które surowo zabraniało generowania treści o charakterze erotycznym. Skąd więc ta decyzja?
Eksploracja generowania treści NSFW przez modele AI obejmuje szeroki zakres materiałów – od erotyki po ekstremalne gore. OpenAI chce w ten sposób zapewnić użytkownikom elastyczność w korzystaniu ze swoich usług. Konkretniej wydaje mi się, iż Amerykanie zrozumieli w końcu, że muszą nieco zluzować ze swoją polityką bezpieczeństwa. Poziom narzekania użytkowników na kuriozalne (momentami) zabezpieczenia modeli AI, szczególnie tych generujących obrazy, był naprawdę duży.
OpenAI pozwoli na erotykę?
W ramach swojej nowej decyzji, OpenAI zaczęło ponownie oceniać swoje zasady dotyczące treści NSFW, rozważając możliwość zezwolenia na generowanie wyraźnego tekstu i obrazów w ramach ścisłych wytycznych. Przedsiębiorstwo chce za wszelką cenę zapobiec tworzeniu przez użytkowników deepfake’ów czy też treści przedstawiających nieletnich w aktach seksualnych. Pomimo eksploracji niektórych wariantów treści NSFW, OpenAI pozostaje stanowcze w swoim stanowisku przeciwko deepfake’om. Organizacja jasno stwierdziła, że nie umożliwi generowania treści typu deepfake ze względu na poważne obawy dotyczące prywatności i potencjalne szkody związane z takimi materiałami.
Organizacja opublikowała dokument Model Specification, w którym przedstawiła swoje zamiary dotyczące generowania treści erotycznych. Dokument ten podkreśla znaczenie generowania takich treści w kontekstach odpowiednich dla wieku i jest częścią szerszych wysiłków OpenAI mających na celu zebranie informacji zwrotnych na temat zachowania swoich modeli AI.
Społeczność jest podzielona
Decyzja dotycząca potencjalnej możliwości tworzenia treści erotycznych przy użyciu modeli AI wywołała niemałą dyskusję w społeczności użytkowników i programistów. Spora część osób wyraziła ekscytację bardziej “otwartym” podejściem OpenAI. Na szczęście też praktycznie każdy jest świadomy etycznych zagrożeń jakie mogą z tego wynikać. Od paru miesięcy obserwuję, jak w społeczności AI rośnie zainteresowanie modelami lokalnymi (np. różne wersje Stable Diffusion) do generowania obrazów erotycznych.Jest bardzo prawdopodobne, iż OpenAI zauważyło tego typu ruchy i chce wyprzedzić lub brzydko mówiąc “skasować” konkurencję w tym temacie.
W samym środku badań OpenAI nad treściami NSFW ma znajdować się “potencjał twórczej ekspresji użytkowników”. Oznacza to po prostu tyle, iż Amerykanie chcą, aby ich platforma nieco bardziej liberalizowała content typu NSFW oraz treści związane z seksualnością. Mimo to dalej nie wie, jak sprawić, aby odpowiedzialne obsłużyć cały proces ich generacji.
Oficjalna aktualizacja w tej sprawie oraz zapowiedź potencjalnych nowości to rzeczy, które pojawią się zapewne dopiero w nadchodzących miesiącach.
fot. Unsplash.com