Fotografija medvjeda koja je upozoravala građane na opasnost u blizini vikendica uklonjena je sa jednog crnogorskog portala nekoliko sati nakon što je otkriveno da je generisana vještačkom inteligencijom.

Lokalni portal Volim Danilovgrad je 18. januara objavio upozorenje da su na području Studenog, u blizini vikendica i planinskih domaćinstava, viđeni medvjedi. Uz vijest je objavljena fotografija životinje kraj jedne kuće u izgradnji, a tu informaciju je prenijelo još nekoliko lokalnih portala.

Nekoliko sati kasnije, redakcija portala se izvinila čitaocima i saopštila da su fotografije generisane vještačkom inteligencijom i da ne predstavljaju stvarni događaj.

Besplatni onlajn alati za provjeru autentičnosti fotografija (Hive moderation, Illuminarty, AI image detector) pokazali su da je slika medvjeda vještački generisana.

„Naglašavamo da u trenutku objave nijesu postojale zvanične informacije o stvarnom prisustvu medvjeda u blizini vikendica na Studenom, te da objavljeni vizuelni materijal nije bio dokumentovan sa terena”, kazali su tada iz portala Volim Danilovgrad.

Ovaj slučaj je jedan od primjera kako AI generisani video i audio materijali mogu brzo postati viralne vijesti ako redakcije ne provjere njihov izvor. Stručnjaci upozoravaju da su se prethodnih godina AI generisani glasovi i video poruke javnih ličnosti koristili i u onlajn reklamama za investicione platforme, a najčešće su se širile preko društvenih mreža i Telegram grupa.

Predsjednik udruženja NarativAI – Centar za medijske inovacije na Balkanu, Aleksandar Manasiev, ocjenjuje da će slični slučajevi biti sve češći zbog dostupnosti alata koji omogućavaju brzo i uvjerljivo kreiranje deepfake fotografija, video i audio zapisa.

“Fotografiju treba tretirati kao i svaku drugu informaciju koju novinari objavljuju, ona mora biti provjerena prije objave a posebno kada je riječ o sadržaju koji dolazi od publike, odnosno user-generated sadržaju. Tada je neophodno utvrditi da li je sadržaj vjerodostojan, kada je nastao i u kom kontekstu”, kazao je Manasiev za BIRN.

On ističe i da originalni fajlovi često sadrže metapodatke koji mogu pomoći u provjeri, a dostupni su i alati za detekciju AI-generisanih fotografija koji postaju sve precizniji.

“Ovakvi slučajevi pokazuju da redakcije moraju razviti jasne interne protokole za provjeru AI-generisanog sadržaja”, dodao je on.

Medenica “80 odsto AI”

Krajem januara pojavila se još jedna sumnja na AI manipulaciju, nakon što je dio medija počeo da objavljuje video snimke Miloša Medenice, sina bivše predsjednice Vrhovnog suda Vesne Medenice. Viši sud u Podgorici je 28. januara ove godine osudio Miloša Medenicu na 10 godina zatvora, zbog stvaranja kriminalne organizacije. Prvostepenom presudom i Vesna Medenica je osuđena na 10 godina zatvora i trenutno se nalazi u protvoru.

Na dan izricanja presude Miloš Medenica je pobjegao iz kućnog pritvora, da bi tri dana kasnije nalog “Istina” na društvenoj mreži X objavio video sa nepoznate lokacije na kome Medenica navodno zahvaljuje ministru unutrašnjih poslova Danilu Šaranoviću i direktoru Uprave policije  Lazaru Šćepanoviću “što su mu omogućili da ga sklone na sigurno”.

Uprava policije je ubrzo saopštila da je riječ o sintetički generisanom video zapisu, odnosno deepfake sadržaju nastalom uz pomoć alata zasnovanih na vještačkoj inteligenciji. Pojedini crnogorski mediji su nakon toga nastavili da objavljuju nove navodne snimke Medenice u kojima se iznose optužbe i uvrede na račun čelnika bezbjednosnog sektora.

Manasiev navodi da je i analiza organizacije NarativAI pokazala da postoji velika vjerovatnoća manipulacije.

“Inicijalna provjera pokazala je oko 80 odsto vjerovatnoće da su video zapisi manipulisani ili u potpunosti AI-generisani. Problem predstavlja i činjenica da nijesu dostupni originalni fajlovi, što onemogućava potpunu forenzičku analizu”, kazao je Manasiev.

Video snimci navodnog Medenice su objavljivani na nalogu “Istina”, koji redovno objavljuje političke komentare, navodne prepiske sa aplikacije Sky i kritike na račun bezbjednosnog sektora. Pojedini portali su prenijeli snimke i poruke sa tog nalog.

Manasiev upozorava da je u takvim slučajevima ključno pitanje ne samo da li je video autentičan, već i kakva je njegova informativna vrijednost. On smatra da redakcije moraju dodatno provjeriti ko stoji iza anonimnog naloga na platformi X, kakvu istoriju objava taj profil ima i da li postoje obrasci koji ukazuju na manipulaciju.

“Dodatne sumnje izaziva i činjenica da se ne koriste zvanični ili ranije poznati nalozi osobe za koju se tvrdi da je na snimcima kao i to što su svi video-zapisi kraći od 30 sekundi, uključujući i uključenje u TV emisiju. To je tipično za AI-manipulisane sadržaje, jer kraći formati olakšavaju prikrivanje tehničkih nedosljednosti i otežavaju pouzdanu verifikaciju”, kazao je on.

Dok Manasiev navodi da prenošenje neprovjerenog sadržaja može imati ozbiljne posljedice, jer publika dolazi u situaciju da ne zna kome i čemu da vjeruje, urednik portala RTCG, Marko Vešović, kaže da su se u slučaju Medenice odlučili da se oslanjaju isključivo na zvanične i provjerene informacije.

“Mislimo da je to odgovorno izvještavanje u jednoj vrlo osjetljivoj situaciji. Posebno što je Uprava policije zvanično saopštila da se radi o snimku koji je nastao uz pomoć vještačke inteligencije, tako da na taj način, to nameće i dodatnu odgovornost”, kazao je Vešović.

RTCG je prošlog decembra usvojila interni kodeks koji uređuje upotrebu vještačke inteligencije u radu javnog servisa, a prema kojem AI može biti samo alat, ali ne i izvor informacija ili zamjena za novinarski rad. Navodi se i da svaki sadržaj u kojem je korišćena vještačka inteligencija moraju provjeriti novinar i urednik.

„Važno je da afirmišemo princip da je to isključivo alat a ne zamjena za novinarski rad i on ne može da proizvodi vijesti, analize, komentare, niti se može tretirati kao izvor informacija. Punu odgovornost za sadržaj zadržavaju novinari i urednici, a ključna vrijednost je istina i tačnost”, istakao je Vešović.

Promjene novinarskog kodeksa

Profesorica Pravnog fakulteta Univerziteta Crne Gore, Aneta Spaić, navodi da je u toku proces prilagođavanja zakonodavstva i novinarskih standarda razvoju AI tehnologija, ističući da važeći zakonodavni okvir ne korespondira sa regionalnim i globalnim trendovima uređenja tog pitanja.

Ona navodi da bi izmjene Kodeksa novinara Crne Gore trebale da pruže jasne smjernice za odgovornu upotrebu AI alata u novinarstvu.

Predloženim izmjenama Kodeksa novinara, između ostalog, predviđeno je obavezno označavanje AI sadržaja, zabrana objavljivanja informacija bez ljudske provjere i puna odgovornost novinara i urednika za sadržaj koji objavljuju, bez obzira na stepen upotrebe AI.

Spaić navodi i da je u pripremi zakon o primjeni vještačke inteligencije, koji bi trebalo da uskladi crnogorski pravni okvir sa evropskim standardima.

“To znači da naš pravni sistem već prepoznaje AI kao regulatorni izazov, ali se nalazi u fazi usklađivanja sa evropskim pravom”, kazala je Spaić.

Manasiev naglašava da redakcije moraju razviti jasne protokole za provjeru sumnjivog audio-vizuelnog sadržaja, posebno onog koji dolazi sa društvenih mreža i anonimnih izvora. Ističe i da će novinarima i urednicima biti neophodni stalni treninzi o etičkoj i praktičnoj upotrebi AI kao alata za unapređenje rada, a ne kao zamjene za novinarsko rasuđivanje.

“Istovremeno, redakcije moraju razviti interne etičke smjernice za korišćenje AI, uz obaveznu transparentnost – svaki put kada se AI koristi za kreiranje teksta, vizuelnih ili audio elemenata, to mora biti jasno naznačeno publici”, kazao je on.

Ovaj tekst podržan je, u okviru projekta „Disinfo Watch: Fact-Checking for Resilient Communities“, od strane Udruženja građana i građanki “Zašto ne” a finansiran od strane Evropske unije. Međutim izražena mišljenja i stavovi održavaju isključivo perspektivu autora, odnosno Balkanske istraživačke mreže – Crna Gora (BIRN Crna Gora), i ne predstavljaju nužno stavove  Udruženja građana i građanki “Zašto ne” i Evropske unije.