Razotkrivena ilegalna trgovina AI slikama seksualnog zlostavljanja djece

Pedofili koriste tehnologiju umjetne inteligencije (AI) za stvaranje i prodaju realističnog materijala seksualnog zlostavljanja djece, otkriva BBC.

Neke osobe pristupaju tim slikama plaćanjem pretplate na popularnim platformama za dijeljenje sadržaja poput Patreona, iz kojeg, pak, kažu da imaju nultu toleranciju prema takvim sadržajima na svojoj platformi.

Vijeće nacionalnih policijskih šefova u Britaniji islazalo je ljutnu zbog činjenice da neke platforme ostvaruju ogromne profite, ali ne preuzimaju moralnu odgovornost.

Kreatori i distributeri takvih sadržaja koriste AI softver nazvan Stable Diffusion, koji je prvobitno bio namijenjen generisanju slika za umjetnost ili grafički dizajn. Softver omogućuje korisnicima da riječima, odnosno kratkim tekstom, opišu kakvu sliku žele, a zatim je program napravi na osnovu tog opisa.

AI generator slika Stable Diffusion stvoren je na osnovu globalne saradnje akademika i nekoliko tvrtki, a predvodi ga britanska firma Stability AI.

No BBC je otkrio da se taj softver koristi i za stvaranje realističnih slika spolne zloupotrebe djece, uključujući i silovanje beba i malodobne djece. Timovi britanske policije za istraživanje zlostavljanja djece na mreži već se susreću s takvim sadržajem.

Slobodna istraživačica i novinarka Octavia Sheepshanks, koja već nekoliko mjeseci istražuje ovu temu, kontaktirala je BBC putem dječje dobrotvorne organizacije NSPCC kako bi iznijela svoja otkrića.

"Otkad je postalo moguće generisati slike umjetnom inteligencijom, stvorio se ogroman talas. Nije riječ samo o vrlo malim djevojčicama, pedofili govore i o maloj djeci", izjavila je.

Pseudo slika kao stvarna

Računarski generisana "pseudo slika" koja prikazuje dječju pornografiju tretira se jednako kao stvarna, autentična i ilegalno ju je posjedovati, objavljivati ili prenositi u Velikoj Britaniji.

Šef Nacionalnog vijeća šefova policije za zaštitu djece Ian Critchley izjavio je da bi bilo pogrešno tvrditi da niko nije povrijeđen zato što na takvim slikama generisanim umjetnom inteligencijom nema stvarne djece. Upozorio je da pedofil može "napredovati na skali zločina, od misli, preko slika generisanih umjetnom inteligencijom, pa sve do zlostavljanja stvarnog djeteta".

Slike zlostavljanja dijele se u tri koraka: pedofili generišu sliku AI softverom, zatim je promovišu na platformama poput japanske za dijeljenje fotografija Pixiv, a takvi linkovi vode na plaćene platforme za dijeljenje sadržaja kao što je Patreon.

Kako je stranica Pixiv smještena u Japanu, gdje dijeljenje seksualiziranih crteža i ilustracija djece nije protivzakonito, kreatori koriste platformu za promovisanje svog rada putem grupa i heštegova koji indeksiraju teme koristeći ključne riječi.

Portoparol Pixiva izjavio je da ova tvrtka pridaje veliki značaj rješavanju ovog problema, a prethodno su izjavili da su zabranili sve fotorealistične prikaze seksualnog sadržaja koji uključuje maloljetnike. 

Slike na prodaju

Mnogi računi na Pixivu uključuju linkove koje usmjeravaju ljude na američku platformu Patreon. Patreon vrijedi oko 4 milijarde dolara i tvrdi da ima više od 250.000 korisnika, većinom legitimnih računa poznatih osoba, novinara i pisaca.

Fanovi mogu podržati kreatore tako što plaćaju mjesečnu pretplatu kako bi pristupili sadržaju kao što su blogovi, podcasti, videi, slike...

Međutim BBC-jeva istraga otkrila je Patreon račune koji nude na prodaju AI generisane, fotorealistične uznemirujuće fotografije djece, s različitim cijenama zavisno o vrsti traženog materijala. Jedan je na svom profilu napisao da prodaje fotorealistične slike poslušnih djevojčica, a drugi je za 8.30 dolara nudio "ekskluzivnu necenzurisanu umjetnost".

Octavia Sheepshanks je rekla BBC-ju da njena istraživanja upućuju na to da korisnici izrađuju slike zlostavljanja djece na industrijskom nivou i da to nije mali broj slučajeva.

"Opseg je jednostavno ogroman pa onda ti kreatori kažu da ciljaju izraditi barem 1.000 slika mjesečno", rekla je.

Patreon kaže da ima politiku nulte tolerancije prema tome. Tvrtka je rekla da je povećanje AI generisanog štetnog sadržaja na internetu "stvarno i uznemirujuće" te da su "identifikovali i uklonili sve više" takvog materijala.

S obzirom na brz razvoj umjetne inteligencije, postavljaju se pitanja o budućim rizicima koje ona može predstavljati za privatnost, ljudska prava i sigurnost ljudi, piše BBC.