Evropska komisija (EK) je 20. julija 2026 uradno objavila Smernice o izvajanju obveznosti glede preglednosti za nekatere sisteme umetne inteligence (v nadaljevanju: UI) iz 50. člena Uredbe (EU) 2024/1689, t.j. Akta o umetni inteligenci (Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689, v nadaljevanju: smernice). Dokument je ključnega pomena za ponudnike in uvajalce sistemov umetne inteligence ter pristojne organe, saj jim pomaga pri zagotavljanju skladnosti z obveznostmi glede preglednosti iz 50. člena Akta o umetni inteligenci (Akt o UI), ki se začne uporabljati 2. avgusta 2026.
Agencija v nadaljevanju pojasnjuje, kako morajo ponudniki sistemov UI zagotoviti skladnost z obveznostmi o preglednosti za interaktivne sisteme UI, ki so v neposredni interakciji s fizičnimi osebami, kot to določa prvi odstavek 50. člena Akta o UI.
KAKO prepoznamo interaktivni sistem UI?
Interaktivni sistem UI mora izpolnjevati štiri ključne pogoje:
Interaktivni sistem UI je sistem UI, kar se ugotavlja v skladu z opredelitvijo sistema UI (člen 3(1) Akta o UI in Smernicami Komisije o opredelitvi umetnointeligenčnega sistema),
sistem UI je namenjen interakciji s fizično osebo,
komunikacija med sistemom UI in fizično osebo je direktna,
sistem UI mora biti v interakciji s fizično osebo.
Za interaktivni sistem UI se štejejo tudi agenti UI, ki so zmožni interakcije s fizičnimi osebami.
KAKŠNE so obveznosti razkritja za interaktivni sistem UI?
Za sistem UI za katerega se izkaže, da je interaktiven sistem UI, izhajajo tudi obveznosti razkritja same interakcije. Ponudniki navedenih sistemov morajo zagotoviti, da so sistemi UI, ki so v neposredni interakciji s fizičnimi osebami, razviti in zasnovani tako, da fizično osebo ustrezno obvestijo, da komunicira s sistemom UI. Informacija o interakciji s sistemom UI mora biti:
posredovana ob prvi interakciji ali izpostavljenosti interaktivnemu sistemu UI;
vsebina obvestila mora biti jasna in nedvoumna, ter mora jasno izpostaviti, da poteka interakcija s sistemom UI. Obvestilo mora izpolnjevati zahteve glede dostopnosti (da jih prepoznajo tudi osebe z ovirami) ter prilagojeno značilnostim in potrebam različnih skupin uporabnikov (npr. mladoletnih, starejših, ali oseb z nižjo stopnjo digitalne pismenosti);
priporočljivo je, da se obvestilo večkrat ponovi tudi med samo uporabo. To je pomembno zlasti pri ranljivih skupinah uporabnikov, pri katerih obstaja večja verjetnost, da med daljšo uporabo izgubijo zavedanje, da komunicirajo s sistemom UI.
Na vprašanje uporabnika ali je sistem UI, oziroma kakšna je narava njune interakcije, mora sistem UI to informacijo jasno razkriti.
KAKO mora biti uporabnik obveščen o interakciji s sistemom UI?
Format obvestila mora biti prilagojen načinu interakcije sistema UI z uporabnikom. Obvestilo je lahko kombinacija več tehnik, da se utrdi razumevanje naslovnikov, glede na kontekst in ciljano ter predvideno občinstvo. Smernice kot primerne tehnike oziroma načine navajajo:
razkritje z jasnim besedilnim obvestilom v primeru besedilne interakcije (npr. »Komunicirate s sistemom UI« ali »Ste v interakciji z sistemom UI«), priporočljive pa so tudi dodane oznake ali značke, ki sledijo interakciji (upošteva se kontekst uporabe, riziki interakcije) in se nahajajo blizu vmesnika komuniciranja;
razkritje z jasnim zvočnim sporočilom v primeru zvočne interakcije (npr. zvočno sporočilo »To je pomočnik, ki ga poganja umetna inteligenca« ali »Sem pomočnik, ki ga poganja umetna inteligenca«) in s periodičnim ponavljanjem pri daljših interakcijah. Za osebe z okvarami vida se lahko dodatno priključi še npr. zvočna ikona – Earcon;
razkritje z jasno prepoznavno oznako ali ikono v primeru vizualne interakcije (cues ali namigi), npr. »AI« oziroma »UI« s katero najlažje razkrijemo umetnointeligenčno naravo sistema UI (npr. elektronsko sporočilo, ki ga pošlje sistem UI, enotni indikator v vseh storitvah ponudnika);
razkritje s kombinacijo zgoraj navedenih tehnik v primeru večmodalne interakcije (npr. slika/video in zvok), vse s ciljem čim lažje prepoznave interakcije s sistemom UI.
Kdaj razkritje NE ZADOSTUJE?
Pri samem posredovanju obvestila o interakciji s sistemom UI se moramo izogibati površnim ali posrednim načinom obveščanja in s tem prikrivanjem dejanske narave interakcije. Za neprimerno se šteje:
obvestilo o komunikaciji s sistemom UI umeščeno v pogoje uporabe aplikacije, splošne pogoje poslovanja ali obvestilo umeščeno v meta podatke ali vodne žige. Ravno tako je neprimerno obveščanje z nejasnimi in dvoumnimi signali podobnimi človeškim in zavajati uporabnike.
uporaba posplošenih izjav (npr. »Storitve na tem spletnem mestu uporabljajo umetno inteligenco«, »Sem digitalni pomočnik«) ali pa v obvestilu uporabiti tehnične termine (npr. »Ta sistem uporablja LLM«) in pričakovati razumevanje interakcije s sistemom UI.
Kdaj razkritje NI POTREBNO?
V določenih primerih uporabnika ni potrebno obvestiti, da komunicira s sistemom UI. To velja za sisteme UI, ki so z zakonom odobreni sistemi za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj. Ti sistemi so oproščeni obveze o razkrivanju vse s ciljem prikrivanja svoje narave in s tem preprečevanja kriminalnih dejanj. Izjema pa ne velja za interaktivne sisteme UI, ki so na voljo javnosti za prijavo kaznivih dejanj. Med takšne primere sodijo pomočniki UI na telefonskih linijah, pomočniki UI za prijavo finančnih goljufij ali virtualni pomočniki UI za zbiranje informacij ali izjav žrtev in prič.
Ravno tako tudi ni potrebno obvestiti uporabnika o interakciji s sistemom UI, če je interakcija s sistemom UI očitna.
Očitnost pa se izkazuje na dva načina:
jasnost interakcije s sistemom UI (npr. fizična interakcija z UI robotom, ki izkazuje svoje mehanske komponente – npr. plešoči robot), skozi glasovno komunikacijo (ki izkazuje robotski glas) ali pa s svojo animacijo, kjer je ne-človeškost jasno razpoznavna),
zaznava fizične osebe, ki je razumno dobro obveščena, pozorna in preudarna, da je v interakciji s sistemom UI. Pri tem je potrebno ugotoviti:
kdo vse je možno občinstvo v tej interakciji (npr. starejši, osebe z ovirami, mladoletni itn. – domneva se da so tudi te skupine, če je sistem splošno dostopen) in
ali je s stališča takšne osebe skupine občinstva ta interakcija očitna, glede na okoliščine in kontekst uporabe.
Kot primer lahko navedemo primer uporabe interaktivnega sistema UI na izobraževalnem dogodku ali specializirani tehnični konferenci, kjer praviloma ni potrebno posebej obveščati občinstva, v kolikor je očitno, da udeleženci razumejo, da komunicirajo s sistemom UI. Nasprotno pa je obvestilo nujno potrebno v primeru dogodka, kjer je možna prisotnost ranljivih skupin, ki skozi komunikacijo lahko hitro izgubijo informacijo o naravi komunikacije.
Primeri izjem pri interakciji s sistemom UI, pri katerih dodatno obvestilo praviloma ni potrebno, če je uporabniku očitno, da komunicira s sistemom UI, so lahko:
pomočniki UI pri programiranju (uporabniki so tehnično izobraženi in se zavedajo interakcije s sistemom UI),
interni pomočniki UI znotraj podjetij kot pomoč pri poslovnih procesih (HR pomočniki, pomočniki UI pri nakupu opreme, pravni UI svetovalec, IT podpora), uporabniki so ustrezno usposobljeni zaposleni in je narava sistema UI uporabnikom jasno znana,
interaktivni pomočniki UI pri diagnostiki kot pomoč ustrezno usposobljenem medicinskemu osebju,
podporni sistemi UI za dom v napravah, ki so omejeni na domače okolje (domači pomočnik UI),
ali animirana oseba v računalniški igri za eno osebo, saj je jasno, da gre za virtualno (UI) osebo.
Za izjemo pa ne velja robotski UI ljubljenček, kjer je podobnost z živaljo zelo velika, ali pa podpora za uporabo virtualnih okolij (VR očala), kjer se animacija oseb s katerimi komuniciramo v virtualnem svetu zelo približa realnim osebam. V tem primeru je obveščanje o interakciji s sistemom UI obvezno.
