Telefonska linija za pomoć Plavi telefon u Banjaluci postoji više od decenije, pružajući podršku djeci i mladima koji su izloženi zlostavljanju. Ranije je zlostavljanje bilo prvenstveno fizičko, dok se danas operateri Plavog telefona sve češće suočavaju sa žrtvama seksualnog zlostavljanja putem slika, ponekad uz upotrebu vještačke inteligencije.

„Većinom su to djevojčice”, kazala je Maja Kovačević, psihološkinja u organizaciji Nova generacija, NVO za zaštitu prava djece sa sjedištem u Republici Srpskoj koja i vodi Plavi telefon.

„Imali smo slučajeve koji se mogu svrstati u osvetničku pornografiju, gdje bi, nakon raskida, momak iz osvete napravio video bivše djevojke tako što bi njen lik montirao na tijelo nage djevojke, pa bi sadržaj dijelio ili prijetio da će ga podijeliti s drugima”, rekla je Kovačević za BIRN.

„Dešavalo se i da djeca i mladi jedni drugima pokazuju ‘gole fotografije’ svojih vršnjaka koje su prethodno napravili uz pomoć vještačke inteligencije, bez njihovog znanja i pristanka.”

Prijetnja koju predstavlja sposobnost vještačke inteligencije da manipuliše slikama dodatno je potvrđena ove godine, kada je u akciji koju je vodio Interpol, a koja je bila usmjerena na materijal seksualnog zlostavljanja djece generisan uz pomoć AI, uhapšeno 25 osoba širom svijeta. Jedno od hapšenja obavljeno je u Banjaluci.

Tužilaštvo navodi da je osoba bila dio mreže koja se pretplaćivala na AI-generisane slike koje je pravio jedan državljanin Danske; mada se na njima ne pojavljuje nijedno stvarno dijete, evropska policijska agencija Europol saopštila je da je kreiranje takvog materijala i dalje krivično djelo.

Vlasti u BiH upozorile su da se fotografije koje roditelji dijele na internetu, a na kojima su njihova djeca, zloupotrebljavaju za stvaranje seksualizovanih slika.

Prošle godine, dvije maloljetnice obratile su se policiji u drugom entitetu BiH, pretežno bošnjačko-hrvatskoj Federaciji, navodeći da su bile ucjenjivane fotografijama napravljenim pomoću takozvanih aplikacija za „svlačenje” (undress, nudify), koje korisnicima omogućavaju da „uklone” odjeću sa slike.

„Fotografije su zapravo preuzete sa Instagram profila maloljetnica na kojima su one bile obučene”, kazao je Saša Petrović, inspektor za sajber bezbjednost u policijskoj upravi Federacije, dodajući da je jedna osoba uhapšena.

„Način djelovanja ovih ucjenjivača je da pronađu dostupne slike, obično djevojčica, preuzmu ih i pošalju žrtvi, uz prijetnju da će ih pokazati roditeljima ako ne plati određenu sumu novca”, rekao je Petrović za BIRN.

Žrtve često ostaju traumatizovane i nezaštićene, dok se roditelji i obrazovne institucije teško snalaze kako da reaguju. Evropski zakon o digitalnim uslugama (Digital Services Act) takođe se bavi zloupotrebom „deepfake” tehnologije, ali eksperti upozoravaju da bi mogao biti nedovoljna zaštita od neželjenog sadržaja generisanog vještačkom inteligencijom.

„Produkcija i distribucija neprimjerenog sadržaja usmjerenog na djecu izaziva dugotrajnu štetu, a porast takvog sadržaja koji generiše vještačka inteligencija predstavlja sve veću prijetnju”, rekla je Nineta Popović, šefica komunikacija UNICEF-a u BiH.

Nasiro Muftić, profesor prava u Sarajevu, pozvao je Bosnu da svoje zakone uskladi sa Evropskim zakonom o digitalnim uslugama, kako bi se platforme obavezale da uklanjaju štetan sadržaj. Međutim, on je upozorio: „Male zemlje poput onih na Zapadnom Balkanu nemaju kapaciteta da sprovedu takve regulative.”

Edukacija je ključna

Kovačević je kazala da mladi ponekad dijele intimne fotografije sa drugima ne iz naivnosti, već iz potrebe za prihvatanjem, ljubavlju i pažnjom koje im mogu nedostajati u stvarnom okruženju, što ih čini ranjivim na manipulaciju i zlostavljanje.

„Vjerujem da većina mladih nije u potpunosti svjesna svih rizika koje nosi slanje intimnih fotografija ili eksplicitnog sadržaja, čak ni kada ih šalju osobi sa kojom su trenutno u vezi”, rekla je Kovačević za BIRN.

„Takvo ponašanje se među mladima često doživljava kao izraz povjerenja, bliskosti ili čak kao ‘normalno’ ponašanje u partnerskim odnosima. Međutim, ono što često nedostaje jeste dublje razumijevanje dugoročnih posljedica i potencijalnih opasnosti koje takve radnje mogu donijeti”.

Policija u Republici Srpskoj saopštila je da je primila „nekoliko” prijava u vezi sa korišćenjem aplikacija „svlačenja”.

„U konkretnim slučajevima žrtve nijesu bila djeca, već punoljetne žene starosti između 19 i 30 godinama”, rekao je Olivije Zimonja, šef Jedinice policije za visokotehnološki kriminal. „Korišćene su fotografije u kupaćim kostimima koje su žrtve javno objavile na svojim nalozima na društvenim mrežama”.

Problem je, međutim, mnogo rasprostranjeniji nego što to brojke pokazuju, rekao je Zimonja za BIRN, navodeći strah od stigmatizacije kao razlog zbog kojeg mnoge žrtve ne prijavljuju ovakva zlostavljanja.

„To potvrđuje činjenica da se na internetu mogu pronaći fotografije djece i odraslih sa našeg područja bez odjeće”, rekao je Zimonja.

Republika Srpska je u avgustu 2023. unijela izmjene u zakon kako bi se obuhvatio fenomen eksplicitnog sadržaja generisanog vještačkom inteligencijom; Federacija je u julu ove godine izmijenila svoj krivični zakon, priznajući objavljivanje AI-generisanog eksplicitnog sadržaja kao krivično djelo.

Dječja psihološkinja Klaudija Ribič upozorila je da aplikacije zasnovane na vještačkoj inteligenciji za „svlačenje” mogu izložiti mlade ljude manipulisanim, seksualizovanim slikama njih samih, što može pojačati osjećaj stida i inferiornosti i izložiti ih riziku od ucjene i zlostavljanja, posebno tokom adolescencije.

„Takvi događaji kod djece i mladih često izazivaju osjećaj krivice, stida, ali i nepovjerenja prema ljudima, kao i nesigurnost prilikom ulaska u bilo kakve vršnjačke odnose u budućnosti”, kazala je Ribič za BIRN.

Edukacija je najbolja prevencija, dodala je, ne samo za djecu već i za njihove roditelje, nastavnike i druge odrasle figure u njihovom životu.

Ribič je naglasila da roditelji imaju odgovornost da prate sadržaj kojem su mlađa djeca izložena, jer ona često mogu učiniti nešto nepromišljeno iz znatiželje i nezrelosti.

„Posebno je važno edukovati odrasle, jer često mislimo da se takve stvari ne dešavaju nama, već nekom drugom”.

Prije svega, žrtva ne smije imati osjećaj da je osuđuju.

„Posebno je važno izbjegavati rečenice poput: Sama si kriva što si poslala takvu fotografiju”, rekla je Ribič. „To dodatno traumatizuje osobu”.

Popović iz UNICEF-a kaže da prijetnja može rasti kako tehnologija napreduje.

„Vještačka inteligencija takođe širi načine viktimizacije”, kazala je ona. „Odrasli moraju biti svjesni opasnosti, kao i mehanizama zaštite. Zato je prvi korak da se sa djecom vodi iskren razgovor i da se prijavi svaki pokušaj zlostavljanja”.