Splošno

Agenciji za komunikacijska omrežja in storitve Republike Slovenije je z Zakonom o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), dodeljen večji del pristojnosti nad izvajanjem Akta o UI  (Uredba Evropskega parlamenta in Sveta EU o določitvi harmoniziranih pravil o umetni inteligenci, 2024/1689). Akt o UI je bil v Uradnem listu EU objavljen 12. julija 2024, veljati pa je začel 1. avgusta 2024. Gre za prvi celovit pravni okvir, ki ureja celoten življenjski cikel umetne inteligence, od razvoja in preizkušanja do uvajanja in vsakodnevne uporabe.

Agencija je po zakonu določena kot enotna kontaktna točkaza Republiko Slovenijo. To pomeni, da je vezni člen za komunikacijo z evropskimi institucijami in vsemi drugimi nacionalnimi organi za izvajanje Akta o umetni inteligenci v državah članicah.

Hkrati agencija vzpostavljavstopno točko za komunikacijo z malimi in srednjimi podjetji, vključno z zagonskimi podjetji, uvajalci, drugimi inovatorji in organi lokalne samouprave za svetovanje in odgovarjanje na vprašanja o izvajanju Akta o UI. Agenciji je dodeljena naloga ozaveščanja in odgovarjanje na vprašanja splošne javnosti glede pravic in obveznosti, ki jih Akt o UI prinaša.

Ena pomembnejših pristojnosti, ki jo dodeljuje zakon, je vzpostavitev regulativnih peskovnikovza umetno inteligenco. Ti so za etično in varno uporabo umetne inteligence  izrednega pomena, saj bodo omogočali iskanje inovativnih rešitev v nadzorovanem testnem okolju že v fazi razvoja. Prav to je ključno za podjetja in druge organizacije, da bodo razviti sistemi umetne inteligence skladni z regulativnim okvirjem. Regulativni peskovnik bo tako omogočal nadzorovano testiranje novih sistemov umetne inteligence na način, da bo ta razvita v skladu s pravili, etiko in da bo varna za uporabo. Rok za vzpostavitev vsaj enega regulativnega peskovnika je 2. avgust 2026.

Agencija prevzema tudi vlogo  organa za izvajanje in nadzor nad izvajanjem Akta o UI, in sicer, nadzor nad skladnostjo visokotveganih sistemov umetne inteligence (UI):

• UI sistemi iz Priloge I, oddelka A, v kolikor gre za UI sistem, namenjen uporabi kot varnostna komponenta proizvoda ali pa je sam sistem UI proizvod, ki ga zajema harmonizacijska zakonodaja EU iz Priloge I, pri čemer se bo po potrebi posvetovala z drugimi inšpekcijskimi organi na področju zakonodaje o strojih, varnosti igrač, plovilih za rekreacijo in osebnih plovilih, dvigalih, opremo in zaščitnimi sistemi, namenjeni za uporabo v potencialno eksplozivnih atmosferah, dostopnost radijske opreme na trgu, dostopnost tlačne opreme na trgu, žičniških napravah, osebni varovalni opremi, napravah, v katerih zgoreva plinasto gorivo, medicinskih pripomočkih in vitro diagnostičnih medicinskih pripomočkih.
• UI sistemi iz Priloge III, na področjih kritične infrastrukture, zaposlovanja, upravljanja delavcev in dostopa do samozaposlitve, sistemi UI javnih organov za ocenjevanje upravičenosti fizičnih oseb do bistvenih ugodnosti in storitev javne pomoči, vključno z zdravstvenimi storitvami, ter na področju ocenjevanja in razvrščanja nujnih klicev fizičnih oseb za napotitev služb za ukrepanje ob nesrečah, vključno s policijo, gasilci in medicinsko pomočjo ali določanje prednosti pri njihovi napotovi, kot tudi sistemi UI za nujno zdravstveno triažo pacientov.

Agencija bo vodila tudi evidenco visokotveganih sistemov UI na področju kritične infrastrukture. Po potrebi se bo posvetovala z drugimi inšpekcijskimi organi.

Ob tem je agencija pristojna tudi za nadzor obveznosti ponudnikov in uvajalcev nekaterih sistemov UI glede preglednosti.

Agencija bo lahko na podlagi zakona ukrepala zoper ponudnika, proizvajalca proizvoda, uvajalca, pooblaščenega zastopnika, uvoznika ali distributerja ki daje na trg, v uporabo ali uporablja sistem UI, pri katerem bo v postopku nadzora ugotovila kršitve Akta o UI. Obravnavala bo tudi pritožbe slovenskih uporabnikov zoper ponudnike iz drugih držav ter jih posredovala koordinatorjem države, v kateri bo ponudnik registriran. Istočasno bo koordinirala aktivnosti na nacionalni ravni z drugimi nadzornimi organi v okviru sosveta nadzornih organov z namenjen zagotavljanja usklajenega izvajanja nadzora ter sodelovala s koordinatorji iz drugih držav članic EU ter z EK. Za  opravljanje te vloge agencija sodeluje v Evropskem odboru za umetno inteligenco, ki v okviru EK združuje koordinatorje držav članic za podporo pri izvajanju nalog iz Akta o UI.