Streszczenie: Nowe badanie naukowe ujawnia, że szeroka dostępność treści dla dorosłych generowanych przez sztuczną inteligencję mogła doprowadzić do gwałtownego wzrostu przestępczości na tle seksualnym. Analiza szczegółowych danych o przestępczości, opublikowanych przez japońską Narodową Agencję Policji, wykazała, że w okresach szczytowego zaangażowania w materiały oznaczone jako wygenerowane przez AI i przeznaczone wyłącznie dla dorosłych, odnotowano statystycznie istotny wzrost liczby gwałtów. Może to wskazywać na nadciągające ryzyko wizerunkowe i prawne dla firm dostarczających narzędzia oraz platformy dla tego typu treści.
Ponieważ firmy są w coraz większym stopniu pociągane do odpowiedzialności prawnej za szkody społeczne wyrządzane przez media społecznościowe, generowane przez AI treści dla dorosłych mogą narazić dostawców na jeszcze większe ryzyko prawne.
Rewolucja internetowa umożliwiła bezproblemowy dostęp do niemal każdego rodzaju treści – w tym treści dla dorosłych. Generatywna sztuczna inteligencja dodała zupełnie nowy, a zarazem potencjalnie bardziej niebezpieczny wymiar do gwałtownego wzrostu popularności materiałów o charakterze jednoznacznie seksualnym. Wobec braku solidnych zabezpieczeń, użytkownicy AI mogą z szokującą łatwością i szybkością przeobrazić się z konsumentów w twórców własnych, nacechowanych seksualnie mediów. Rządy państw na całym świecie, jak również Organizacja Narodów Zjednoczonych, wystosowały poważne ostrzeżenia dotyczące produkcji na szeroką skalę nielegalnych, generowanych przez AI zjawisk typu deepfake, w tym obrazów z udziałem nieletnich.
Wydaje się jednak, że giganci technologiczni (Big Tech) nie reagują z równą powagą. Na początku tego roku Sam Altman, dyrektor generalny OpenAI, ogłosił zamiar wprowadzenia „trybu dla dorosłych” w ChatGPT, który pozwalałby użytkownikom na prowadzenie z chatbotem konwersacji o charakterze wyłącznie dla dorosłych. Wynikające z tego oburzenie sprawiło, że pomysł ten został odłożony na boczny tor – przynajmniej na razie. Niemniej jednak, chwila szczerości Altmana sygnalizuje, że liderzy branży technologicznej wciąż potencjalnie rozważają wykorzystanie treści dla dorosłych jako elementu propozycji wartości sztucznej inteligencji.
Nasze trwające badania sugerują, że ludzkie konsekwencje takiej decyzji mogą być znacznie poważniejsze i bardziej bezpośrednie, niż spodziewa się tego środowisko technologiczne. Otwarcie wrót dla generowanych przez AI treści dla dorosłych mogłoby w rzeczywistości przyczynić się do gwałtownego wzrostu najcięższej przestępczości na tle seksualnym.
Wykorzystaliśmy naturalny eksperyment, w odpowiedzi na rozłam w literaturze naukowej. Część badaczy w dziedzinie psychologii stawia tezę, że fantazje realizowane w środowiskach internetowych mają efekt oczyszczający (katarktyczny) dla potencjalnych przestępców, zatrzymując ich przewinienia wyłącznie w sferze cyfrowej. Jednak przeciwstawny nurt teorii społecznego uczenia się i stymulacji głosi, że fantazje online raczej podsycają, niż zaspokajają pragnienie popełniania przestępstw seksualnych.
[Początek formularza] Bądź na bieżąco z przywództwem w dobie AI i danych. Otrzymuj comiesięczne analizy dotyczące tego, jak sztuczna inteligencja wpływa na Twoją organizację i co oznacza dla Twojej firmy oraz jej klientów. [Dół formularza]
Mieliśmy wyjątkową okazję do zbadania tej kwestii ze względu na fakt, że – w przeciwieństwie do wielu innych krajów – japońska Narodowa Agencja Policji (NPA) publikuje szczegółowe, miesięczne statystyki przestępczości, uwzględniające kategorie przestępstw oraz wiek ofiar.
Uzyskaliśmy dostęp do statystyk NPA za okres od stycznia 2022 roku do października 2024 roku. Dokładnie pośrodku tego przedziału czasowego, w połowie 2023 roku, miała miejsce japońska premiera aplikacji mobilnej ChatGPT. Potraktowaliśmy to uruchomienie jako wstrząs zewnętrzny, który znacząco zmniejszył bariery dostępu na rynku zdominowanym przez urządzenia mobilne (w 2023 roku 72,9% użytkowników internetu w Japonii łączyło się z siecią za pomocą smartfonów). W tym samym okresie nastąpiła również znacząca poprawa narzędzi do generowania obrazów, w tym aktualizacja systemu Stable Diffusion z lipca 2023 roku, która ułatwiła tworzenie wysokiej jakości grafik początkującym użytkownikom. Sensowne było zatem przyjęcie połowy 2023 roku jako technologicznego punktu zwrotnego do przeprowadzenia porównań przed i po tych wydarzeniach.
Nasza analiza wykazała, że po połowie 2023 roku Japonia doświadczyła znacznego wzrostu zgłaszanych przypadków gwałtu – miesięczna średnia krajowa wzrosła z 148 do 265 między pierwszą a drugą połową naszego okresu obserwacyjnego. Wykorzystując metodę podwójnej różnicy (difference-in-differences), zaprojektowaną w celu stworzenia wiarygodnych porównań między gwałtem jako przestępstwem „poddanym eksperymentowi” (treated) a morderstwem jako przestępstwem „kontrolnym” (wybranym, ponieważ oba są klasyfikowane przez NPA jako poważne przestępstwa z użyciem przemocy i podlegają zasadniczo porównywalnym procedurom instytucjonalnym), odkryliśmy, że rosnąca częstotliwość występowania gwałtów konsekwentnie przewyższała w tym samym okresie liczbę morderstw o około 12 przypadków miesięcznie. Przed połową 2023 roku nie odnotowano statystycznie istotnej różnicy w miesięcznych wahaniach obu rodzajów przestępstw.
Ten sam zasadniczy schemat utrzymał się, gdy porównaliśmy gwałt z innymi przestępstwami, które Japonia klasyfikuje jako poważne przestępstwa z użyciem przemocy, a które niekoniecznie mają charakter seksualny, takimi jak podpalenia czy rozboje.
Niemniej jednak mógł to być przypadek korelacji, a nie związku przyczynowo-skutkowego. Patrząc wyłącznie przez pryzmat osi czasu, ów niefortunny skok liczby gwałtów mógł mieć związek z różnego rodzaju czynnikami społecznymi, niemożliwymi do zaobserwowania w naszych danych. Aby wzmocnić naszą analizę, pozyskaliśmy dane z jednej z największych i najpopularniejszych japońskich internetowych społeczności artystycznych, gdzie użytkownicy mogą przesyłać, przeglądać i oceniać publicznie udostępniane dzieła. Społeczność ta przyciąga około 3,6 miliona odwiedzających miesięcznie i generuje blisko 2,9 miliarda odsłon. Głównym językiem platformy jest japoński, a szacunki dotyczące zewnętrznego ruchu sieciowego wskazują, że mniej więcej dwie trzecie wizyt pochodzi z Japonii (której populacja liczy około 130 milionów). Biorąc pod uwagę tę skalę oraz koncentrację japońskich użytkowników, platforma stanowi miarodajne okno na zachodzące w skali kraju zmiany w zachowaniach online. Co istotne, owa społeczność internetowa nie zakazuje obrazów przeznaczonych wyłącznie dla dorosłych i/lub generowanych algorytmicznie, ale jej członkowie są uprawnieni i zachęcani do oznaczania ich w ten sposób, bez względu na to, czy to oni stworzyli lub przesłali dany obraz.
Odkryliśmy, że okresy szczytowego zaangażowania (polubienia, zapisania i wyświetlenia) w materiały oznaczone jako wygenerowane przez AI oraz przeznaczone tylko dla dorosłych były również tymi, w których wzrost liczby gwałtów w stosunku do morderstw był szczególnie wysoki. Ta zależność statystyczna ujawniła się dopiero po połowie 2023 roku, kiedy to generatywna sztuczna inteligencja stała się w Japonii powszechnie dostępna.
Całokształt tych dowodów wskazuje na scenariusz, w którym generowane przez AI treści o charakterze jednoznacznie seksualnym bezpośrednio przyczyniły się do wzrostu przestępczości na tle seksualnym. Gwałt jest szczególnie ohydnym przykładem tego rodzaju przestępstwa, jednak nie ma powodów, by przypuszczać, że scenariusz ten nie dotyczyłby również innych przewinień o podłożu seksualnym.
Implikacje naszych wyników stały się szczególnie alarmujące, gdy zawęziliśmy obszar badawczy do treści i przestępczości z udziałem nieletnich. Zaangażowanie w obrazy o charakterze seksualnym, które zostały oznaczone przez użytkowników jako przedstawiające nieletnich, było powiązane z jeszcze większym wzrostem liczby gwałtów w stosunku do morderstw. Kiedy skupiliśmy się na przypadkach gwałtu, w których ofiary miały poniżej 20 lat, szacowana skala nasilenia zjawiska była jeszcze wyższa. Chociaż wyniki te nie potwierdzają istnienia bezpośredniej, jednostkowej ścieżki prowadzącej od konkretnych obrazów do konkretnych przestępstw, są one spójne z nieproporcjonalnym wzrostem liczby przestępstw z udziałem młodszych ofiar. Późniejsze badania wyjaśniły, że owe dodatkowe przestępstwa polegały głównie na aktach przemocy dorosłych wobec nieletnich, a nie na przestępstwach pomiędzy nieletnimi.
Wydaje się, że nasze ustalenia dotyczące specyfiki japońskiej pokrywają się z wzorcami odnotowanymi w innych miejscach. Na przykład, obserwatorzy byli zszokowani i zdezorientowani, gdy CyberTipline – system zgłaszania przypadków wykorzystywania seksualnego dzieci w internecie, prowadzony przez amerykańskie Narodowe Centrum Spraw Zaginionych i Wykorzystywanych Dzieci (NCMEC) – ogłosił, że w 2023 roku liczba zgłoszeń wzrosła o 12% w porównaniu z rokiem poprzednim. Korelacja tej liczby z momentem upowszechnienia się narzędzi AI dla szerokiej publiczności bardzo silnie sugeruje istnienie związku zgodnego z naszymi odkryciami.
Dowody wskazują na scenariusz, w którym generowane przez AI treści o charakterze jednoznacznie seksualnym bezpośrednio przyczyniły się do wzrostu przestępczości na tle seksualnym.
Rzecz jasna, nasze badanie dokumentuje jedynie wysoce prawdopodobny związek przyczynowo-skutkowy. Nasze ustalenia nie ujawniają dokładnie, w jaki sposób rozpowszechnianie oraz angażowanie się w generowane przez AI obrazy dla dorosłych napędzało zachowania przestępcze; nie możemy również z całą pewnością stwierdzić, że obrazy te były wyłączną przyczyną owego wzrostu. Z całą pewnością nie twierdzimy też, że ostatecznie rozstrzygnęliśmy spory naukowe o to, czy treści o charakterze seksualnym w internecie działają jak katalizator zachowań przestępczych, czy też sprzyjają zasadniczo nieszkodliwemu uwolnieniu napięcia w drodze katharsis.
Niemniej jednak specyficzne dla danego kontekstu powiązanie, które zidentyfikowaliśmy, jest wystarczająco poważne, aby uzasadnić obawy dotyczące skłonności firm Big Tech do integrowania treści dla dorosłych w ramach popularnych modeli sztucznej inteligencji. Pozornej racjonalności deklarowanego przez Altmana celu, aby „pozwolić dorosłym być dorosłymi”, musimy przeciwstawić prawdopodobny wpływ na przestępczość seksualną w świecie rzeczywistym, szczególnie w odniesieniu do tych najbardziej bezbronnych: nieletnich ofiar.
Jak dotąd najbardziej zdecydowane działania regulacyjne w tym obszarze były wymierzone w deepfake’i typu „revenge porn” (pornografia z zemsty), jak ma to miejsce w przypadku ustawy TAKE IT DOWN Act podpisanej przez prezydenta Donalda Trumpa w 2025 roku. Jeśli zaś chodzi o generowane przez sztuczną inteligencję treści pornograficzne, które nie przedstawiają możliwych do zidentyfikowania osób (w tym materiały z udziałem nieletnich), obecne ramy prawne nie nadążają za generatywnymi możliwościami AI. W momencie powstawania tego tekstu prawodawcy Unii Europejskiej grzęzną na przykład w debatach, ważąc obawy o prywatność w sieci w stosunku do obowiązku zwalczania niegodziwego traktowania nieletnich w celach seksualnych, w efekcie czego powstaje impas w zakresie egzekwowania prawa. Podczas gdy społeczeństwa wypracowują sposoby reagowania na nowo pojawiające się zagrożenia, strony internetowe i aplikacje stworzone w wyraźnym celu produkcji treści pornograficznych zdążyły się gwałtownie namnożyć.
Władze i decydenci polityczni nie są jednak bezradni. Wymagające absolutnego minimum, stosunkowo bezdyskusyjne zabezpieczenia, które mogłyby zostać wprowadzone w perspektywie krótkoterminowej, obejmują następujące opcje:
- Znakowanie wodne i śledzenie pochodzenia (provenance tracking), które mogłyby pomóc w pociąganiu dostawców do odpowiedzialności poprzez łączenie treści z platformą lub narzędziem, które ją stworzyło.
- Weryfikacja wieku, która w przypadku rygorystycznego stosowania, mogłaby przynajmniej ograniczyć nieletnim możliwość udziału w produkcji materiałów pornograficznych.
- Bardziej rygorystyczne egzekwowanie przepisów, które zostały już przyjęte przez 45 stanów w USA, takich jak te penalizujące materiały przedstawiające seksualne wykorzystywanie dzieci w internecie.
Tego rodzaju kroki byłyby odpowiednim punktem wyjścia. Jednak skala problemu – oraz ujawnione przez nasze badania rzeczywiste implikacje dla zachowań przestępczych – wymagają, aby prawodawcy zdwoili wysiłki w celu usunięcia luk prawnych, które pozwalają na niepohamowane rozprzestrzenianie się generowanych przez AI treści dla dorosłych. Firmy natomiast postąpiłyby mądrze, biorąc pod uwagę straty wizerunkowe wynikające z bycia postrzeganymi jako część tego problemu.
