Na 6. Predsedničinem forumu, ki je pod naslovom »Umetna inteligenca: med napredkom, odgovornostjo in novo pismenostjo« potekala na Brdu pri Kranju, je v krogu strokovnjakov z različnih področij in pod pokroviteljstvom predsednice države Nataše Pirc Musar sodelovala tudi vodja sektorja za umetno inteligenco na AKOS Nataša Vidmar Kraljević.
Predstavila je vlogo regulacije na področju umetne inteligence (UI). Poudarila je, da UI prinaša velike priložnosti, vendar le, če se uporablja ob spoštovanju temeljnih človekovih pravic. Regulacija postavlja okvir za njeno varno in odgovorno uporabo. »Ni vprašanje, ali bomo UI regulirali, temveč kako zagotoviti, da bo regulacija hkrati varovala ljudi in omogočala razvoj v korist celotne družbe. Regulacija mora zato iskati ravnotežje med inovacijami, zaščito posameznika in gradnjo zaupanja,« je dejala Vidmar Kraljević.
Prvi vidik regulacije je zaščita posameznika in človekovih pravic. Akt o UI temelji na pristopu »piramide tveganj«, kjer so zahteve odvisne od vpliva sistema UI na ljudi in družbo. Posebej stroga pravila veljajo za visoko tvegane sisteme, na primer na področjih zaposlovanja, zdravstva ali kritične infrastrukture. Namen teh pravil ni zaviranje razvoja, temveč zmanjševanje tveganj in krepitev zaupanja uporabnikov, je poudarila Vidmar Kraljević: »Skladnost UI sistemov z Aktom o UI naj se razume kot konkurenčna prednost in ne kot administrativna ovira.«
Drugi pomemben vidik regulacije je podpora inovacijam preko regulativnih peskovnikov. Ti omogočajo podjetjem, da nove rešitve UI razvijajo in preizkušajo v sodelovanju z regulatorjem še pred vstopom na trg. »Namen vzpostavitve regulativnih peskovnikov je spodbujati inovacije. Regulativni peskovniki omogočajo, da podjetja svoje rešitve razvijajo in preizkušajo v sodelovanju z regulatorjem, kar zmanjšuje tveganja in povečuje pravno predvidljivost.«
Tretji vidik regulacije je gradnja zaupanja in odgovornosti. Vidmar Kraljević je izpostavlja pomen človeškega nadzora nad sistemi UI, saj »algoritem lahko pomaga pri odločitvah, vendar odgovornost vedno nosi človek. Zaupanje v umetno inteligenco temelji na kakovostnih podatkih, transparentnosti in odgovorni uporabi. Ključno je, da človek ostane del odločanja, saj umetna inteligenca lahko podpira odločitve, ne more pa prevzeti odgovornosti za njih. Ob tem moramo krepiti digitalno pismenost in kritično razmišljanje«, je še dejala Vidmar Kraljevič.
Po njenih besedah je prihodnost UI odvisna od sposobnosti družbe, da uskladi inovacije z varnostjo in etiko. »Ključno vprašanje danes ni več, ali bomo UI uporabljali, temveč kako jo bomo kot družba upravljali.«
Na 6. Predsedničinem forumu, so sodelovali:
dr. Vida Groznik, članica laboratorija za umetno inteligenco na Fakulteti za računalništvo in informatiko, UL, prof. dr. Danijel Skočaj, Fakulteta za računalništvo in informatiko, UL, prof. dr. Sašo Džeroski, Institut »Jožef Stefan«, prof. dr. Vasilka Sancin, Evropsko sodišče za človekove pravice, Nataša Vidmar Kraljević, Agencija za komunikacijska omrežja in storitve Republike Slovenije, prof. dr. Dan Podjed, ZRC SAZU in IRI UL, prof. dr. Ernest Ženko, Fakulteta za humanistične študije, UP, prof. dr. Blaž Zupan, Fakulteta za računalništvo in informatiko, UL, mag. Radovan Krajnc, Zavod Republike Slovenije za šolstvo, Maja Vičič Krabonja, prof., Srednja ekonomska šola in gimnazija Maribor in dr. Uroš Ocepek, prof., Srednja tehniška in poklicna pola Trbovlje.
