U aprilu prošle godine, tadašnji albanski ministar unutrašnjih poslova, Taulant Balla, otputovao je u Abu Dabi kako bi potpisao Memorandum o razumijevanju sa kompanijom Presight AI, dijelom tehnološke grupe G42 sa sjedištem u Ujedinjenim Arapskim Emiratima.

Cilj sporazuma bio je instalacija naprednih sigurnosnih kamera i radara u glavnim gradovima Albanije, koristeći vještačku inteligenciju i druge savremene tehnologije za poboljšanje javne bezbjednosti i upravljanja saobraćajem.

„Ovaj projekat nije samo investicija u tehnologiju, već i u bezbjednost i dobrobit naših građana“, izjavio je tada Balla.

Međutim, činjenica da je sporazum odmah proglašen tajnim izazvala je zabrinutost među aktivistima za ljudska prava i stručnjacima za privatnost, s obzirom na značajan potencijal za zloupotrebu takvog softvera.

Učešće kompanije G42 dodatno je privuklo pažnju, jer istraživači smatraju ovu firmu produženom rukom digitalne autokratije Ujedinjenih Arapskih Emirata (UAE), upozoravajući na njene skrivene tendencije ka prikupljanju podataka.

Slične zabrinutosti pojavile su se i u drugim zemljama koje su sarađivale sa G42. Vlada Srbije je izgradila bliske odnose sa ovom kompanijom, što je izazvalo kritike zbog mogućeg prikupljanja osjetljivih podataka.

Ovi događaji ističu potrebu za transparentnošću i pažljivim razmatranjem prilikom implementacije naprednih tehnologija, kako bi se osigurala zaštita ljudskih prava i privatnosti građana.

Kompanija G42, sa sjedištem u Ujedinjenim Arapskim Emiratima, razvija rješenja zasnovana na vještačkoj inteligenciji za različite sektore, uključujući vlade, zdravstvene ustanove, finansije, energetiku, avijaciju i ugostiteljstvo. Za postizanje ovih ciljeva, G42 prikuplja velike količine podataka.

G42 takođe sarađuje sa izraelskom odbrambenom industrijom i bezbjednosnim službama UAE. Pored toga, kompanija je imala partnerstva sa kineskom firmom BGI Genomics, čiji je jedan odsjek u martu 2023. godine stavljen na američku trgovinsku crnu listu zbog zabrinutosti da aktivnosti u vezi sa prikupljanjem i analizom genetskih podataka predstavljaju rizik od preusmjeravanja u kineske vojne programe.

Marva Fatafta, ekspertkinja za digitalna prava iz organizacije Access Now, izrazila je zabrinutost zbog tajnovitosti sporazuma između albanske vlade i Presight AI, dijela G42 grupe.

Ona je istakla da javnost ima pravo da zna koje tehnologije vlasti koriste, koje podatke prikupljaju i obrađuju, u koje svrhe, te koje agencije imaju pristup tim podacima. Bez tih informacija, građanima je teže da ospore postavljene sisteme ili traže pravnu zaštitu u slučaju nepravednog postupanja.

Na upit za komentar, kompanija Presight AI nije odgovorila BIRN-u.

Albansko Ministarstvo unutrašnjih poslova je, odgovarajući na zahtjev za slobodan pristup informacijama, navelo da projekat „Pametni grad“ ima za cilj poboljšanje efikasnosti i održivosti urbanih područja, kao i unapređenje javne bezbjednosti kroz upotrebu vještačke inteligencije i sistema za analizu podataka.

Ovi događaji ističu potrebu za transparentnošću i pažljivim razmatranjem prilikom implementacije naprednih tehnologija, kako bi se osigurala zaštita ljudskih prava i privatnosti građana.

Nedostatak transparentnosti

Albanski premijer Edi Rama izjavio je 31. januara da će sistem nadzora „Pametni grad“ pratiti ulice i naselja u 20 gradova. Rama je projekat nazvao „izvanrednim“ i istakao da ima kapacitet da verifikuje identitet ljudi i njihove eventualne krivične dosijee.

Međutim, eksperti upozoravaju na ogroman potencijal za zloupotrebu, s obzirom na to da zakoni zemlje zaostaju za tehnologijom.

Advokatica Megi Reci, koja je radila na slučajevima digitalne bezbjednosti, istakla je da vlasti moraju garantovati da će svako zadiranje u osnovna ljudska prava biti srazmjerno i transparentno.

„Vlasti treba da garantuju da će svako zadiranje u osnovna ljudska prava biti srazmjerno i transparentno; intervencija treba da bude ograničena i dobro obrazložena“, izjavila je Reci za BIRN.

„Koliko nam je poznato, vlada nije objavila nikakvu analizu ili procjenu ovog slučaja, već je samo navela šta radi“, dodala je.

„Apsolutno je neophodno da vlada objasni mjere koje je preduzela u oblasti digitalne bezbjednosti tokom upotrebe ovih tehnologija, uključujući procjenu rizika, reviziju i druge postupke sprovedene radi zaštite prava na privatnost, slobode govora i ostale mjere protiv zloupotrebe ovih tehnologija“.

Reci je naglasila potrebu za većom transparentnošću u vezi sa vrstom nadzorne opreme koja će biti korišćena, njenim mogućnostima, vrstom podataka koji će se prikupljati i da li će biti uključena tehnologija prepoznavanja lica ili druge vrste biometrijske identifikacije. Takođe, javnost bi trebalo da zna koliki će biti ukupni troškovi projekta, odakle dolazi oprema i koje su procedure nabavke primijenjene.

Reci je istakla da je upotreba vještačke inteligencije posebno zabrinjavajuća, obzirom na to da Albanija nema zakone koji garantuju osnovna prava na privatnost, poput zabrane korišćenja tehnologije prepoznavanja lica na javnim mjestima.

Navodna kineska veza

Organizacije za digitalna prava, kao i američke vlasti, u više navrata su izrazile zabrinutost zbog državnih veza firme G42.

Predsjednik upravnog odbora G42 i glavni akcionar je Tahnun bin Zajed Al Nahjan, istovremeno i savjetnik za nacionalnu bezbjednost UAE, dok je izvršni direktor kompanije Peng Sjao.

Prije nego što je preuzeo rukovodeću poziciju u G42, Sjao je bio direktor kompanije Pegasus LLC, koja je dio firme za sajber bezbjednost DarkMatter. Ta kompanija je u prošlosti bila optužena za angažovanje bivših američkih tajnih agenata u programima usmjerenim protiv aktivista za ljudska prava i novinara.

Specijalni odbor američkog Kongresa takođe je iznio sumnje o vezama između G42 i kineskih vlasti.

„Prema dokumentima koje je Odbor pregledao, izvršni direktor G42, Peng Sjao, upravlja i povezan je sa širokom mrežom kompanija sa sjedištem u UAE i Kini, koje razvijaju tehnologije dvostruke namjene i materijalno podržavaju vojno-civilnu fuziju Kine, kao i kršenja ljudskih prava“, napisao je Majk Galager, predsjednik odbora, u pismu američkom Ministarstvu trgovine u januaru prošle godine.

„DarkMatter je korporativni partner G42, koji razvija špijunski softver i nadzorne alate koji mogu biti korišćeni za špijuniranje disidenata, novinara, političara i američkih kompanija“, dodao je Galager.