Agencija za javne nabavke Bosne i Hercegovine prva je institucija u ovoj zemlji koja je umjetnu inteligenciju uvrstila u svoj javni rad. U junu 2025. predstavili su “Bazu znanja”, koju su opisali kao interaktivnu bazu podataka s chatbotom zasnovanim na umjetnoj inteligenciji, koji ponuđačima i ugovornim organima treba omogućiti brz, besplatan i anoniman pristup provjerenim odgovorima o zakonu i e-nabavkama.
Navedeno je i kako alat sadrži više od 1.000 stručnih odgovora, te da je dostupan u svakom trenutku.
“Posebnu vrijednost ovog rješenja predstavlja činjenica da sadržaj baze znanja kreira i stručno priprema isključivo Agencija, čime je osigurano da svi odgovori koji se korisnicima plasiraju budu pouzdani, stručni i ažurni”, naveli su iz Agencije u saopćenju u kojem su predstavili svoj novi alat.
Očekivanja su, kako su naveli, da alat značajno rastereti potrebe za direktnim upitima i skrati vrijeme rješavanja mnogih nedoumica, posebno onih koje se ponavljaju u svakodnevnoj praksi.
Ali, dok iz Agencije navode da bi ovo rješenje moglo olakšati rad, stručnjak za pravnu regulaciju umjetne inteligencije s Pravnog fakulteta u Sarajevu Nasir Muftić smatra da ovakva rješenja nisu lišena odgovornosti, te da je jako važno uspostaviti sistem koji bi regulisao rad rješenja zasnovanih na umjetnoj inteligenciji.
“Ako osoba pretrpi štetu zato što je dobila pogrešnu informaciju od chatbota koji je organizacija stavila u upotrebu, trebalo bi postaviti pitanje odgovornosti upravo te organizacije”, pojasnio je Muftić za Detektor, navodeći da evropski propisi već idu prema jasnijem definisanju odgovornosti za korištenje sistema.
Rizik, smatra Muftić, postaje još veći kada umjetna inteligencija prestane samo odgovarati na pitanja i počne analizirati ponude, procjenjivati ponuđače, označavati nepravilnosti ili na drugi način utjecati na odluke o postupku javnih nabavki.
Državne institucije BiH. Foto: BIRN BiH
Da to nije daleka budućnost govori primjer iz Albanije, gdje je 2025. godine albanski premijer imenovao AI-generisanu ‘ministricu’ za borbu protiv korupcije.
Washington Post je u naslovu ovaj potez nazvao “nestašnim AI trikom”, dok su drugi mediji naveli da je najava premijera Edija Rame izazvala bijes među opozicionim zastupnicima, koji su ga optužili da pokušava prikriti duboko ukorijenjene probleme s korupcijom.
AI ministrica, nazvana “Diella”, virtuelni je chatbot koji je do septembra prošle godine bio integrisan u e-Albania, vladinu platformu za digitalne usluge.
Nejasna uloga digitalne ministrice
Prema Rami, Diella je trebala služiti kao državna ministrica za umjetnu inteligenciju, sa specifičnim zadatkom – eliminisati korupciju iz tendera za javne nabavke, što je jedno od ključnih pitanja za Albaniju u nastojanju da ubrza proces pristupanja Evropskoj uniji.
Međutim, gotovo godinu dana kasnije, stvarna uloga ove “ministrice” i dalje je nejasna.
U Agenciji za javne nabavke, gdje se očekivalo da će sposobnosti ovog sistema biti testirane, čini se da je posao još uvijek u pripremnoj fazi.
“Postoji projekat za razvoj sistema javnih nabavki koji će koristiti umjetnu inteligenciju, ali je još uvijek u toku”, kazala je direktorica Agencije Reida Kashta odgovarajući na pitanje da li je počela upotreba AI-a u javnim nabavkama.
Prema njenim riječima, Agencija je “upravo završila izradu projektnog zadatka”. Riječ je o dokumentu kojim se definišu tehnički kriteriji za raspisivanje tendera na kojem će biti izabrana kompanija zadužena za izgradnju sistema.
Sistem javnih nabavki godinama se smatra jednim od sektora najizloženijih korupciji u Albaniji. Istrage Specijalnog tužilaštva za organizovani kriminal i korupciju (SPAK), otkrile su više slučajeva koji su uključivali šeme za namještanje tendera, u kojima su pobjednici bili unaprijed određeni prije pokretanja procedura. Ugovori za izgradnju puteva, spalionica i druge javne investicije bili su predmet istraga zbog navoda o favorizovanju pojedinih privrednih subjekata i kršenju pravila konkurencije.
Vladina ambicija da integriše umjetnu inteligenciju u ovaj sektor naišla je na skepticizam i opozicionih političara i stručnjaka za javne politike, prvenstveno zbog sigurnosnih rizika, nedostatka ljudskih kapaciteta i različitih pravnih nejasnoća.
Zastupnik opozicione Demokratske stranke Klevis Balliu rekao je za BIRN da AI može služiti kao pomoćno sredstvo administraciji, ali da ne može zamijeniti zakonsku odgovornost institucija niti garantovati borbu protiv korupcije.
Prema Balliuu, bez jasnog ustavnog i zakonskog osnova, stvaranje virtuelne ministrice otvara pitanje ko snosi odgovornost za donošenje odluka, naročito u osjetljivom sektoru poput javnih nabavki.
“Diella ne rješava korupciju. Naprotiv, ona otvara jedno temeljno pitanje: ko snosi odgovornost za odluke na koje utiče sistem koji nema zakonski definisan status?”, rekao je Balliu.
On smatra da virtuelni sistem može pomoći u povećanju efikasnosti i otkrivanju nepravilnosti, ali da “ne može zamijeniti transparentnost, nadzor i ljudsku odgovornost”.
I stručnjaci za javne politike zabrinuti su zbog upotrebe umjetne inteligencije u javnim nabavkama bez sveobuhvatnog pravnog, institucionalnog i tehničkog okvira.
Alba Brojka, nezavisna stručnjakinja za digitalne politike, kazala je da umjetnu inteligenciju ne treba posmatrati kao “čarobni štapić” za rješavanje složenih problema poput korupcije, već isključivo kao alat za povećanje efikasnosti i automatizaciju administrativnih procesa.
“Prema principima UNESCO-a o etičkoj upotrebi umjetne inteligencije, konačno donošenje odluka pripada stručnjaku, odnosno čovjeku, a ne tehnologiji”, rekla je Brojka.
Ona ovakvu upotrebu AI-a vidi kao “izgovor za problem [korupcije] koji postoji godinama”, dok bi se, prema njenom mišljenju, prvo trebalo pozabaviti “pravnim prazninama i institucionalnim kapacitetima”.
Za Aranitu Brahaj, direktoricu Albanskog instituta za nauku (AIS), korištenje AI-a u javnim nabavkama ne može se smatrati rješenjem problema s tenderima bez prethodnog jačanja pravnog okvira i razvoja nove metodologije za praćenje efikasnosti takvih sistema.
“Albaniji još uvijek nedostaje kompletan sekundarni pravni okvir, a prije svega, ovaj proces se odvija u trenutku kada javno ugovaranje pokazuje značajne probleme”, kazala je Brahaj.
Brojni izazovi
Direktorica Agencije za javne nabavke Reida Kashta. Foto: PPA
U okviru ambicije da uvede digitalne sisteme u javne politike, Vlada je 2024. godine izmijenila Zakon o javnim nabavkama kako bi uključila odredbe koje omogućavaju korištenje umjetne inteligencije u procesima javnih nabavki.
Napredni tehnološki sistemi trebali bi se koristiti kao pomoć pri izradi zahtjeva u fazi prije tendera, kao podrška dinamičkom sistemu nabavki i elektronskim aukcijama, za funkcionisanje digitalnog sistema žalbi te za praćenje realizacije ugovora.
Kashta, direktorica Agencije za javne nabavke, kaže da zakon sada pruža pravni osnov za korištenje AI-a u procesu javnih nabavki.
Međutim, stručnjaci smatraju da ove zakonske odredbe ne predstavljaju sveobuhvatan okvir koji može odgovoriti na sve izazove koje donosi upotreba digitalnih tehnologija. U međuvremenu, vladina strategija o korištenju umjetne inteligencije, kao i novi nacrt zakona o AI-u, koji je još uvijek u procesu konsultacija, tek trebaju biti usvojeni.
“Ovi ključni horizontalni, odnosno međusektorski akti, koji nadilaze sektorsko zakonodavstvo, već bi trebali biti na snazi. Isto tako, institucije određene nacrtom zakona o umjetnoj inteligenciji trebale bi imati jasno definisane nadležnosti i kapacitete za njihovo provođenje prije nego što možemo efikasno početi primjenjivati AI u javnim nabavkama”, rekla je Brojka.
Prema njenim riječima, time bi se osigurali mehanizmi kontrole, nezavisni nadzor, licenciranje i registracija AI sistema. Sve bi se provodilo u skladu s kategorijama utvrđenim zakonom, uz algoritamske revizije i efikasne mehanizme za prijavljivanje kršenja prava.
Ali čak ni usvajanje novog zakona ne bi riješilo sigurnosne probleme povezane s implementacijom AI sistema, jer je, prema Brojki, sposobnost Vlade da zaštiti podatke i dalje nedovoljna.
Kazala je da Povjerenik za pravo na informacije i zaštitu ličnih podataka ima “nedostatak kapaciteta” za nadzor privatnih i javnih aktera ili različitih online platformi.
“Bio bi još veći izazov tražiti od iste institucije da nadzire podatke koji uključuju aktere koji koriste AI, jer to nije realno”, dodala je.
Brojka navodi “brojne izazove” u primjeni AI sistema u javnim politikama i poziva da uvođenje umjetne inteligencije ide zajedno s institucionalnom odgovornošću i transparentnošću.
Među izazovima su nedostatak analize kojom bi se definisali konkretni problemi koje tehnologija treba riješiti, kvalitet podataka, kao i sposobnost Agencije za javne nabavke da razumije modele, obučava ih i prati njihov rad.
Ona također naglašava potrebu za jasnim metodologijama odgovorne upotrebe i revizije sistema, ističući da, bez obzira na pomoć umjetne inteligencije, odgovornost za konačne odluke u javnim nabavkama mora ostati na ljudima.
“Sve su to izazovi s kojima se Agencija za javne nabavke još mora suočiti, a čini se da institucije još uvijek ne razumiju u potpunosti ovaj pripremni ciklus. Umjesto toga, izgleda da ih vodi politički narativ koji je daleko od uslova koji moraju biti ispunjeni za odgovornu upotrebu umjetne inteligencije.”
Brahaj, direktorica Instituta za nauku, također upozorava da će implementacija zahtijevati vrijeme i nadzor.
Jednako je važno, kaže ona, na koji će način algoritmi za evaluaciju, kvalifikaciju i otkrivanje rizika biti primjenjivani u tenderskim postupcima, kao i koliko su kompanije spremne da se takmiče i ulažu žalbe na odluke u uslovima u kojima se koristi umjetna inteligencija.
Interni revizori i albanska Vrhovna državna revizorska institucija, KLSH, kao vanjski revizor, također će morati razviti novu metodologiju.
“U suprotnom, ovo će ostati reforma obilježena neuspjesima, u kojoj će albanske institucije jednostavno stvoriti niz problema i nedostataka koji će drugima služiti kao laboratorija iz koje će učiti”, zaključila je Brahaj.
Diella izazvala političke i pravne kontroverze
Opozicioni zastupnici burno su reagovali tokom sjednice parlamenta u septembru 2025. godine kada je premijer Edi Rama predstavio “govor” AI “ministrice” Dielle.
“Nisam ovdje da zamijenim ljude, nego da im pomognem”, “rekla” je AI figura – avatar u obliku žene odjevene u tradicionalnu albansku nošnju – u videosnimku prikazanom zastupnicima.
Zastupnik opozicione Demokratske stranke Gazment Bardhi ljutito je poručio da je “istina da je Diella Edija Rame propagandna fantazija. Korupcija i organizovani kriminal su stvarnost”.
U odvojenoj kontroverzi, glumica koja je posudila glas Dielli, dok je chatbot ranije služio kao digitalni asistent na državnom portalu e-Albania, pokrenula je sudski postupak protiv državnih institucija, tvrdeći da je njen lik korišten, bez odgovarajuće dozvole, kao lice “ministrice” za javne nabavke.
Glumica Anila Bisha tvrdi da je imala ugovor samo za korištenje njenog lika za digitalnog asistenta, a ne i za novu ulogu.
“Nemam nikakve veze s Diellom kao ministricom i niko me o tome nije pitao”, kazala je.
Bisha je zatražila hitnu zabranu korištenja njenog glasa i lika, što je sud odbio. Sud će 22. septembra početi razmatrati njen zahtjev za potpunu zabranu korištenja njenog glasa i lika za Diellu.
Slično kao i albanski stručnjaci, Muftić navodi kako je, prije ozbiljnije upotrebe AI-a u javnom sektoru, potreban sveobuhvatan pravni i institucionalni okvir koji bi jasno definisao pravila razvoja i treniranja sistema, obavezan ljudski nadzor, odgovornost institucija i kategorizaciju AI sistema prema nivou rizika.
On upozorava da generativna umjetna inteligencija može “halucinirati”, odnosno proizvesti netačne ili potpuno izmišljene informacije, a tu su i rizici u vezi s ličnim podacima, sigurnosti sistema i cyber napadima.
“Institucije pritom moraju imati jasne mandate, ali i dovoljno finansijskih, ljudskih i tehničkih kapaciteta i znanja, da te propise mogu zaista primjenjivati”, dodaje Muftić.
On navodi kako BiH trenutno nema sveobuhvatan zakonski okvir za regulisanje upotrebe ovih alata, pa iako znatno manji rizik predstavlja korištenje umjetne inteligencije samo za pružanje informacija, i dalje se mora voditi računa da takav rad ne krši druge važeće zakonske propise.
Takva je situacija, dodaje, u svim zemljama Zapadnog Balkana, prvenstveno jer nisu članice Evropske unije i njihovi pravni sistemi nisu usklađeni s evropskim propisima. S druge strane, propisi EU o digitalnim tehnologijama su, zaključuje, često osmišljeni tako da ih države ne mogu provoditi bez pomoći institucija Unije, što u konačnici znači da čak ni manje članice EU nemaju nužno dovoljno kapaciteta da se same nose sa svim rizicima razvoja i primjene umjetne inteligencije.
