Pojasnilo agencije, kako morajo uvajalci sistemov UI za biometrično kategorizacijo in prepoznavanje čustev zagotoviti skladnost z obveznostmi obveščanja, kot to določa tretji odstavek 50. člena Akta o UI.
Sistem UI za biometrično kategorizacijo pomeni sistem UI za razvrščanje fizičnih oseb v posebne kategorije na podlagi njihovih biometričnih podatkov, razen če gre za pomožni in iz objektivnih tehničnih razlogov nujno potreben sistem druge komercialne storitve. Primer takšnega biometričnega sistema je sistem UI, ki na podlagi slike obraza posameznika razvrsti v določeno starostno skupino.
Sistem za prepoznavanje čustev pomeni sistem UI, namenjen prepoznavanju čustev ali namenov fizičnih oseb oziroma sklepanju o njih na podlagi njihovih biometričnih podatkov. Primer je sistem UI, ki z analizo posnetka obraza igralca sklepa o njegovem čustvenem stanju med igranjem računalniške igre. Sistemi UI namenjeni prepoznavi čustev so po Aktu o UI razvrščeni med visokotvegane sisteme UI, izjema velja le za uporabo teh sistemov na področju izobraževanja in na delovnem mestu, kjer so te prakse prepovedane (točka (f) prvega odstavka 5. člena Akta o UI).
Uvajalec sistema UI mora o izpostavljenosti osebe biometričnemu sistemu obvestiti osebo pred izpostavljenostjo alinajpozneje ob prvi interakciji na jasen in razpoznaven način. Obvestilo mora biti podano pisno (z besedilom), z ikono (v primeru elektronske komunikacije), glasovno ali katero koli njihovo kombinacijo.
Samo obvestilo mora biti prilagojeno:
kraju izpostavljenosti sistemu UI (npr. virtualna igralna platforma, železniška postaja),
možni skupini opazovanih (otroci, starejši, osebe z omejitvami…),
dolžini in načinu izpostavljenosti (dolgotrajno, enkratno, občasno, …),
odnosu med uvajalcem in opazovano osebo (npr. ali že obstaja obstoječa komunikacija s posameznikom) in
usklajeno s pravili o dostopnosti za osebe z ovirami.
Uvajalec takšnega sistema na podlagi 50. člena Akta o UI ni dolžan seznaniti izpostavljenih oseb o razlogih za uporabo biometričnih sistemov UI, temveč jih mora obvestiti o njegovem delovanju. Navedeno pa ne pomeni, da k temu ni zavezan na podlagi drugih pravil, npr. o varstvu osebnih podatkov (GDPR).
V določenih primerih obveznost obveščanja o uporabi biometričnega sistema UI in sistema UI za prepoznavanje čustev ne velja. Gre za sisteme UI, katerih uporaba je z zakonom dovoljena za odkrivanje, preprečevanje ali preiskovanje kaznivih dejanj, ob zagotovitvi ustreznih zaščitnih ukrepov za pravice in svoboščine tretjih oseb ter v skladu s pravom EU.
Od 2. avgusta 2026 veljajo nove obveznosti glede preglednosti pri uporabi določenih sistemov UI. Namenjene so predvsem temu, da posameznik ve, kdaj komunicira s sistemom UI oziroma kdaj je bila določena vsebina ustvarjena ali prirejena z njegovo pomočjo.
Evropska komisija (EK) je 20. julija 2026 uradno objavila Smernice o izvajanju obveznosti glede preglednosti za nekatere sisteme UI iz 50. člena Uredbe (EU) 2024/1689, t.j. Akta o umetni inteligenci (Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689). Dokument je ključnega pomena za ponudnike in uvajalce sistemov UI ter pristojne organe, saj jim pomaga pri razumevanju obsega obveznosti in izjem glede preglednosti iz 50. člena Akta o umetni inteligenci (Akt o UI).
