Na Fejsbuk stranici pod nazivom „Autokefalna Crnogorska Pravoslavna Crkva“ u aprilu je objavljen snimak koji je, kako se činilo, prikazivao poglavara Crnogorske pravoslavne crkve, mitropolita Mihaila, kako se ljubi sa ženom.

Snimak je imao sve karakteristike „dipfejka” generisanog vještačkom inteligencijom (AI), ali je uprkos tome prikupio oko 5.000 lajkova i više od dva miliona pojedinačnih pregleda.

Navedena stranica često dijeli pogrdni sadržaj o Mihailu i samoj crkvi i nije jedina koja koristi AI kako bi njena poruka postala viralna.

Od poslovnih primjena u turizmu i bankarstvu, do usluga državne uprave i političkih kampanja, upotreba vještačke inteligencije je u usponu u Crnoj Gori – kao i zabrinutost zbog njene moguće zloupotrebe.

„U tome je opasnost“, rekla je Snežana Nikčević iz NVO 35mm, koja je i liderka tima pri Centru za vještačku inteligenciju i digitalne politike sa sjedištem u Vašingtonu. „AI može da stvori uvjerljive, ali potpuno lažne narative.“

U februaru je policija upozorila javnost na lažne vijesti koje kruže internetom, a neke su sadržale i „dipfejk“ video zapise o javnim ličnostima.

Imajući u vidu nedostatak regulative o vještačkoj inteligenciji u zemlji, pojedini stručnjaci strahuju za integritet crnogorskih izbora. Oni navode primjer Rumunije, gdje je krajnje desničarski autsajder Kalin Đorđesku pobijedio u prvom krugu prošlogodišnjih predsjedničkih izbora, da bi zatim rezultat bio poništen, a Đorđesku diskvalifikovan na osnovu tvrdnji obavještajnih službi o ruskom uplitanju u izbore putem društvenih mreža.

„Mikrotargetiranje pomoću AI može manipulisati ponašanjem birača u do sada nezabilježenim razmjerima“, kazala je Nikčević za BIRN. „Ako ne budemo oprezni, mogli bismo vidjeti slične taktike i u Crnoj Gori.“

Pravni vakuum

Crnogorske kompanije već integrišu vještačku inteligenciju u svoje poslovanje. U sektoru turizma, koji predstavlja okosnicu crnogorske privrede, hoteli i turističke agencije koriste algoritme zasnovane na AI za personalizaciju iskustva gosta i optimizaciju cjenovnih strategija.

Banke se oslanjaju na AI sisteme za otkrivanje prevara i četbotove za korisničku podršku. Startapovi u oblasti finansijskih tehnologija i elektronske trgovine koriste AI kako bi unaprijedili efikasnost i inovacije.

Prvi crnogorski softver za finansije zasnovan na vještačkoj inteligenciji, Oxiom FinBot, pokrenut je u januaru 2025. godine, uz obećanje da će automatizovati knjigovodstvene procese i omogućiti finansijsku analizu u realnom vremenu.

Zakonodavci rizikuju da zaostanu, a politički sistem ostaje ranjiv.

Marko Banović iz Digitalnog forenzičkog centra (DFC) rekao je za BIRN: „Ne postoji javni nadzor niti kontrola nad tim koje se tehnologije koriste. Taj nedostatak transparentnosti otvara prostor za potencijalne zloupotrebe, manipulaciju biračima i širenje dezinformacija bez ikakve odgovornosti.”

Generalni direktor Direktorata za infrastrukturu, bezbjednost informacija, digitalizaciju i e-usluge u Ministarstvu javne uprave, Dušan Polović, kazao je za BIRN da vlada nastoji da do kraja ove godine usvoji nacionalnu strategiju za vještačku inteligenciju.

„Strategija će definisati jasne prioritete, sektore primjene i pravce razvoja”, rekao je Polović. „Kroz akcione planove cilj nam je da stvorimo strukturisan pristup implementaciji vještačke inteligencije.”

„Zakon EU o AI, koji se smatra najnaprednijim regulatornim okvirom za vještačku inteligenciju na globalnom nivou, predstavljaće osnov za naše buduće propise u ovoj oblasti.”

Zakon o AI, koji je stupio na snagu u avgustu prošle godine, definiše nekoliko primjena AI koje će biti klasifikovane kao „neprihvatljivi rizici“ i u potpunosti zabranjene – uključujući prakse poput društvenog rejtinga i subliminalne manipulacije.

Zakon takođe definiše niz „visokorizičnih“ primjena, poput AI sistema u obrazovanju, zapošljavanju ili daljinskoj biometriji. Ovi sistemi moraju biti registrovani, a njihovi programeri su dužni da poštuju stroge odredbe o upravljanju rizikom i kontroli kvaliteta, kako je propisano zakonom.

Usklađivanje sa EU nije dovoljno

Pojedini stručnjaci, međutim, smatraju da nije dovoljno samo uskladiti crnogorsko zakonodavstvo sa EU Zakonom o vještačkoj inteligenciji.

„Potrebna nam je šira rasprava o transparentnosti, privatnosti i algoritamskoj odgovornosti”, rekla je Nikčević za BIRN. „Ne radi se samo o usklađivanju sa zakonima EU, već o tome da vještačka inteligencija mora služiti javnom interesu, a ne postati instrument za manipulaciju.”

Banović je takođe kazao da planirana strategija za AI neće biti dovoljna. Vlasti bi, kako je rekao, „trebalo da iskoriste ovaj trenutak da donesu i adekvatan zakon”.

„Donosioci odluka u Crnoj Gori moraju biti svjesni da ne možemo sebi priuštiti da zaostajemo u uspostavljanju strateškog i zakonodavnog okvira za AI, kao što je to bio slučaj sa borbom protiv dezinformacija i stranog miješanja”, rekao je Banović za BIRN.

Nikčević je istakla i da je manje važno šta ljudi objavljuju, a mnogo važnije do koga te poruke dopiru i na koji način. Ona smatra da fokus vlasti ne bi trebalo da bude na zabrani sadržaja, već na njegovom upravljanju, navodeći kao primjer uvođenje pravila prema kojima korisnici moraju označiti kada je snimak generisan pomoću vještačke inteligencije, a platforme obavezati da kontrolišu njegovo širenje.

„U tom kontekstu, Opšta uredba o zaštiti podataka (GDPR), Zakon o audiovizuelnim medijskim uslugama, Zakon o zaštiti potrošača i Zakon o elektronskim komunikacijama imaju ključnu ulogu”, navela je Nikčević i založila se za formiranje AI forenzičkih timova koji bi identifikovali i suzbijali lažne vijesti.

Čak i dok nastoji da reguliše upotrebu vještačke inteligencije, vlada je već koristi u pružanju javnih usluga. „Određene AI komponente već su u upotrebi u raznim sektorima javne uprave”, rekao je Polović.

Počev od 2026. godine, kako je kazao za BIRN, vlada planira „implementaciju rješenja zasnovanih na vještačkoj inteligenciji radi poboljšanja transparentnosti i efikasnijeg pružanja usluga”.

AI se trenutno koristi u četbotovima i automatizovanim odgovorima u komunikaciji sa korisnicima portala javne uprave, kao što je portal eUprava, dok se alati za obradu dokumenata koji koriste mašinsko učenje primjenjuju u postupcima registracije, izdavanja dozvola i drugim administrativnim procesima.

Vlada je nedavno pokrenula Portal otvorenih podataka koji omogućava besplatan pristup podacima iz javnog sektora u formatu čitljivom za mašine. Mada sam portal ne koristi direktno vještačku inteligenciju, on obezbjeđuje ključnu infrastrukturu za njenu primjenu u javnoj upravi.

Regulacija bez gušenja inovacija

Pored potencijalne zloupotrebe vještačke inteligencije, postoji i zabrinutost zbog njenog uticaja na radna mjesta.
Nikčević ističe da je važno planirati unaprijed.

„Ako ne investiramo u digitalnu pismenost i prekvalifikaciju radne snage, rizikujemo da proširimo jaz između onih koji mogu da se prilagode i onih koji ne mogu”, rekla je za BIRN. „Javnost mora biti edukovana o rizicima i prednostima vještačke inteligencije, a privreda treba da bude podstaknuta da razvija odgovorna AI rješenja.”

Polović smatra da se regulacija AI ne može rješavati izolovano. „Ovo je globalno pitanje”, kazao je. „Nacionalne politike moraju biti usklađene sa EU i drugim međunarodnim tijelima kako bi se obezbijedila dosljednost i efikasnost.”

Stručnjaci navode da će sprovođenje Nacionalne strategije za vještačku inteligenciju 2025. godine biti ključni korak, ali da je pravi test u tome da li Crna Gora može da primijeni svoje propise, zaštiti digitalna prava i izgradi povjerenje javnosti u AI tehnologije.

U međuvremenu, Banović je pozvao na „uvođenje obrazovnih programa o AI u školama i javne kampanje o tome kako prepoznati AI-generisani sadržaj”.

Nikčević je rekla da Crna Gora treba da primjenjuje „holistički pristup”, koji razvija vještačku inteligenciju na etičan i održiv način. „Regulacija ne treba da se zasniva samo na uvođenju ograničenja, već treba da podstiče inovacije, a da pritom obezbijedi i odgovornost.”