Kateri sistemi UI veljajo za visokotvegane?
Primeri uporabe umetne inteligence, ki lahko pomenijo resno tveganje za zdravje, varnost ali temeljne pravice, so razvrščeni kot primeri velikega tveganja. Ti primeri uporabe z visokim tveganjem vključujejo:
UI sistemi samostojno ali kot varnostne komponente v kritičnih infrastrukturah (npr. v prometu), katerih okvara bi lahko ogrozila življenje in zdravje državljanov
UI rešitve, ki se uporabljajo v izobraževalnih ustanovah in lahko določajo dostop do izobraževanja in potek poklicnega življenja (npr. točkovanje izpitov)
UI sistemi kot varnostne komponente proizvodov, ki temeljijo na umetni inteligenci (npr. uporaba umetne inteligence pri operacijah s pomočjo robota)
Orodja umetne inteligence za zaposlovanje, upravljanje delavcev in dostop do samozaposlitve (npr. programska oprema za razvrščanje življenjepisov za zaposlovanje)
Nekateri primeri uporabe umetne inteligence, ki se uporabljajo za zagotavljanje dostopa do osnovnih zasebnih in javnih storitev (npr. kreditno točkovanje, ki državljanom onemogoča pridobitev posojila)
UI sistemi, ki se uporabljajo za biometrično identifikacijo na daljavo, prepoznavanje čustev in biometrično kategorizacijo (npr. UI sistem za retroaktivno identifikacijo tatu)
Primeri uporabe umetne inteligence pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj, ki lahko posegajo v temeljne pravice ljudi (npr. ocena zanesljivosti dokazov)
Primeri uporabe umetne inteligence pri upravljanju migracij, azila in nadzora meja (npr. avtomatizirano obravnavanje vlog za izdajo vizuma)
Rešitve umetne inteligence, ki se uporabljajo v pravosodju in demokratičnih procesih (npr. rešitve umetne inteligence za pripravo sodnih odločb)
Relevanten člen: 6(1), Priloga I in Priloga III.
Ali v kakšnih primerih sistemi UI iz Priloge III ne štejejo kot visokotvegani?
Če sistem UI iz priloge III ne predstavlja znatnega tveganja škode za zdravje, varnost ali temeljne pravice, na primer, ker ne vpliva bistveno na izid odločanja, takega sistema ne uvrščamo med visokotvegane sisteme UI. Zato da je podana ta izjema, mora biti izpolnjen en izmed pogojev iz člena 6(3) Akta o umetni inteligenci.
Če sistem UI iz Priloge III profilira posameznike, se bo vedno štel za visokotveganega; za tovrstne sisteme UI se zgornja izjema ne uporablja.
Relevantni členi: člen 6(3), recital 53
Visokotvegani sistem UI smo že razvili in dali na trg. Ali moramo zagotoviti skladnost z Aktom o umetni inteligenci, čeprav se določbe Akta še niso uporabljale, ko je bil sistem UI dan na trg?
Akt o umetni inteligenci se uporablja za visokotvegane sisteme UI, ki so bili dani na trg ali v uporabo pred 2. avgustom 2026, samo v primeru, da se je pri navedenih sistemih od navedenega datuma bistveno spremenila njihova zasnova. V vsakem primeru ponudniki in uvajalci visokotveganih sistemov UI, ki naj bi jih uporabljali javni organi, sprejmejo potrebne ukrepe za izpolnitev zahtev in obveznosti iz tega Akta o UI do 2. avgusta 2030.
EK bo glede praktičnega izvajanja določb v zvezi z bistveno spremembo pripravila smernice, ki jih bomo po sprejemu objavili na tej spletni strani.
Relevantni členi: 3(23), 43(4), 111.