Zakaj je preglednost generirane vsebine z UI sistemi tako pomembna?
Različni sistemi UI lahko ustvarijo velike količine sintetičnih vsebin, ki jih ljudje vse težje razlikujejo od vsebin, ki jih ustvari človek, in verodostojnih vsebin. Široka razpoložljivost in večje zmogljivosti teh sistemov pomembno vplivajo na integriteto informacijskega ekosistema in zaupanje vanj, saj se pojavljajo nova tveganja dezinformacij in obsežnega prirejanja, goljufij, izdajanja za drugo osebo in zavajanja potrošnikov.
Prav tako so nekateri sistemi UI namenjeni neposrednim stikom s fizičnimi osebami in lahko predstavljajo posebna tveganja izdajanja za drugo osebo ali zavajanja.
Preglednost na področju umetne inteligence je zato zelo pomembna, saj spodbuja zaupanje, zagotavlja odgovornost ponudnikov in uvajalcev sistemov UI, omogoča informirano sprejemanje vsebin in odločitev, je usklajena z etičnimi in pravnimi smernicami, kar prispeva k odgovorni in etični uporabi umetne inteligence.
Kdo je ponudnik sistema umetne inteligence in katere obveznosti glede preglednosti veljajo zanj?
V skladu s členom 3(3) Akta o UI so ponudniki sistemov UI fizične ali pravne osebe, javni organi, agencije ali drugi organi, ki razvijajo sisteme UI ali jih dajo razviti, in jih dajejo na trg EU ali jih dajejo v uporabo pod svojim imenom ali blagovno znamko. To velja ne glede na to, ali imajo ti ponudniki sedež ali se nahajajo v EU ali v tretji državi.
Za ponudnike sistemov UI s sedežem v EU ali izven EU veljajo tudi določbe Akta o UI, če se rezultati njihovega sistema UI uporabljajo v EU.
Ponudniki morajo zagotoviti, da njihovi sistemi umetne inteligence izpolnjujejo ustrezne obveznosti glede preglednosti iz členov 50(1), (2) in (5) Akta o UI, preden te sisteme dajo na trg ali v uporabo.
V skladu s členom 50(1) Akta o UI morajo ponudniki zasnovati in razviti sisteme UI, ki neposredno komunicirajo s fizičnimi osebami (klepetalni roboti, agenti umetne inteligence in avatarji), z obvestilom, da komunicirajo z umetno inteligenco.
V skladu s 50(2) členom Akta o UI ponudniki sistemov UI, ki ustvarjajo ali prirejajo sintetično vsebino, kot so slikovno, video, zvočno ali besedilno vsebino, zagotovijo, da so izhodni podatki označeni v strojno berljivi obliki (npr. vodni znaki, digitalno podpisani metapodatki) in da so ti izhodi tudi prepoznavni kot umetno ustvarjeni ali prirejeni. Zagotoviti morajo tudi , da so rezultati njihovih generativnih sistemov UI označeni z učinkovitimi, zanesljivimi, robustnimi in interoperabilnimi, strojno berljivimi oznakami, ki omogočajo zaznavanje rezultatov, kot jih generirajo ali manipulirajo sistemi UI.
[1] Obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci
Kdo je uvajalec in katere obveznosti glede preglednosti veljajo zanj?
Uvajalci sistemov UI so fizične ali pravne osebe, javni organi, agencije ali drugi organi, ki uporabljajo sisteme UI v svoji pristojnosti, razen uporabe za osebne, nepoklicne dejavnosti.
Kadar fizična oseba uporablja sistem UI v svojem lastnem imenu, na primer za ustvarjanje ponaredkov in njihovo širjenje na družbenih omrežjih, se to šteje za osebno nepoklicno dejavnost. Takšna uporaba je izključena iz področja uporabe Akta o UI. Če pa gre za dejavnost, s katero redno pridobivajo gospodarsko korist (ali so kako drugače vključeni v poslovno, trgovinsko, poklicno ali svobodno dejavnost), se to šteje za „poklicno“ dejavnost. V tem primeru se fizična oseba šteje za uporabnika tega sistema umetne inteligence.
Kadar je uvajalec sistema UI pravna oseba, pod katere pooblastilom se sistem uporablja (npr. oglaševalsko podjetje), se posamezni zaposleni, ki delujejo po navodilih in pod nadzorom te pravne osebe (npr. digitalni animatorji, spletni oblikovalci, ustvarjalci vsebin, novinarji), ne štejejo za ločene uporabnike tega sistema. Pravna oseba ostane uvajalec, tudi če so tretje osebe (npr. izvajalci, samostojni podjetniki) vključene v delovanje sistema v njenem imenu ter pod njeno odgovornostjo in nadzorom.
Uvajalci sistemov UI za prepoznavanje čustev in biometrično kategorizacijo morajo posameznike jasno obvestiti, kadar so ti izpostavljeni delovanju teh sistemov ter seveda zagotoviti skladnost z GDPR.
Uvajalci sistemov UI, ki ustvarjajo ali prirejajo vsebine, ki so globoki ponaredki (slike, video, zvok) ali objavljajo besedilo namenjeno obveščanju javnosti o zadevah javnega interesa, morajo razkriti, da so te vsebine umetno ustvarjene ali spremenjene.
Relevanten člen : 50
[1] Obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci
Kaj določa kodeks?
Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco, je bil v končni različici objavljen 10. junija 2026. Evropska komisija 9. julija 2026 sprejela tudi oceno o njegovi ustreznosti (več o tem na povezavi).
Kodeks opredeljuje praktične in tehnične načine za označevanje ter prepoznavanje vsebin, ustvarjenih ali prirejenih z umetno inteligenco. Osredotoča se na obveznosti ponudnikov sistemov UI v 50(2) členu Akta o UI in obveznosti uvajalcev iz 50(4) Akta o UI.
Med predvidenimi ukrepi so:
- zaščiteni in digitalno podpisani metapodatki;
- vodni znaki;
- standardizirane ikone;
- tehnike za zaznavanje vsebin, ustvarjenih ali prirejenih z umetno inteligenco.
Kodeks je razdeljen na dva oddelka:
- Prvi oddelek je namenjen ponudnikom sistemov umetne inteligence. Vsebuje zaveze glede strojno berljivega označevanja in omogočanja odkrivanja sintetičnih vsebin, ki so bile ustvarjene ali prirejene z umetno inteligenco.
- Drugi oddelek je namenjen uvajalcem sistemov umetne inteligence. Vsebuje pravila za označevanje globokih ponaredkov ter besedil, ustvarjenih ali prirejenih z umetno inteligenco, ki se objavljajo z namenom obveščanja javnosti o zadevah javnega interesa. Za potrebe drugega oddelka Kodeksa je bil pripravljen tudi sklop ikon »AI«, ki jih lahko uvajalci uporabljajo za označevanje vsebin, ustvarjenih ali prirejenih z umetno inteligenco.
Organizacije lahko s podpisom pristopijo k obema oddelkoma Kodeksa ali samo k tistemu, ki je pomemben za njihovo vlogo in dejavnosti.
Relevanten člen: 50(7)
[1] Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco
[2] Ikone za označevanje z UI generirane vsebine
[3] Pristop k podpisu kodeksa za ponudnike in uvajalce (s pogostimi vprašanji in odgovori)
Zakaj je kodeks pomemben za zavezance?
Za ponudnike in uvajalce sistemov umetne inteligence prinaša Kodeks predvsem bolj jasen in standardiziran način dokazovanja skladnosti. Kodeks ravnanja naslavlja tehnične in praktične vidike izvajanja obveznosti za ponudnike in uvajalce UI sistemov iz člena 50(2), (4) ter (5) Akta o UI.
Podpisniki, ki bodo njegove zahteve tudi dejansko izvajali, bodo lahko skladnost z obveznostmi glede preglednosti in označevanja vsebin dokazovali s sklicevanjem na izpolnjevanje določb Kodeksa. Pristojni organi bodo skladnost še vedno preverjali, vendar bo preverjanje lahko osredotočeno predvsem na to, ali podpisnik spoštuje sprejete zaveze.
Kodeks kljub temu ni edini možni način zagotavljanja skladnosti. Zavezanci se lahko odločijo za lastne tehnične in organizacijske rešitve, vendar bodo morali dokazati, da te dosegajo primerljivo raven učinkovitosti in zanesljivosti.
Pristop h Kodeksu in njegovo upoštevanje se lahko upoštevata tudi kot olajševalna okoliščina pri določanju višine morebitne globe.
Evropska komisija je za potencialne podpisnike in druge zainteresirane organizacije objavila tudi odgovore na pogosta vprašanja, ki dodatno pojasnjujejo vsebino Kodeksa, postopek pristopa in izvajanje posameznih zavez.
Kaj določajo smernice?
Smernice dopolnjujejo Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco (v nadaljevanju Kodeks ravnanja), ki je bil v končni različici objavljen 10. junija 2026 (več o tem na povezavi).
Smernice naslavljajo celoten 50. člen Akta o UI, saj je namen smernic ponudnikom in uvajalcem sistemov UI ter pristojnim organom zagotoviti praktične usmeritve za enotno razumevanje in učinkovito izvajanje obveznosti glede preglednosti določenih sistemov UI, ki jih predpisuje Akt o UI.
Smernice predstavljajo nezavezujočo pravno razlago (interpretacijo) celotnega 50. člena Akta o UI, katerih namen je pojasniti vsebino in obseg predpisanih obveznosti. Vsebujejo predvsem razlage pravnih pojmov (npr. neposredno interaktivni sistemi UI, sintetična vsebina, globoki ponaredki, besedilo o zadevah javnega interesa) ter opredeljujejo izjeme, kot je običajno urejanje vsebin, nadalje tudi pojasnjujejo vlogo deležnikov ter naslavljajo varstvo pravic posameznikov. Namenjene so vsem nadzornim organom, ponudnikom in uvajalcem sistemov UI, sodiščem in drugim deležnikom za pomoč pri razlagi obveznosti. Gre za praktična navodila za dosledno, učinkovito in enotno izvajanje ter razumevanje obveznosti.
Kdaj začnejo veljati obveznosti o preglednosti generirane vsebine?
Člen 50 Akta o umetni inteligenci se uporablja od 2. avgusta 2026. Od takrat dalje morajo ponudniki in uvajalci UI sistemov izpolnjevati obveznosti glede preglednosti iz navedene določbe.
Omejeno prehodno obdobje je predvideno le za UI sisteme, dane na trg pred 2. avgustom 2026, in samo v zvezi z obveznostjo označevanja in odkrivanja vsebin, ustvarjenih z umetno inteligenco (člen 50(2) akta o umetni inteligenci). Ponudniki takih sistemov morajo te obveznosti izpolnjevati od 2. decembra 2026 dalje.
Vsebine, ustvarjene pred 2. avgustom 2026, ni treba označiti retroaktivno. Kljub temu Komisija zadevne uvajalce spodbuja, naj to storijo, kadar je to mogoče, saj prispeva k ciljem o preglednosti iz člena 50 Akta o UI.
Kaj je globoki ponaredek (»deepfake«) in kdaj morajo biti označeni?
Globoki ponaredek pomeni z UI ustvarjeno ali manipulirano slikovno, zvočno ali video vsebino, ki je podobna obstoječim osebam, predmetom, krajem, subjektom ali dogodkom in se uporabniku lažno zdi pristna ali resnična (člen 3(60) Akta o UI). .
Da bi vsebina pomenila »globoki ponaredek«, morajo biti izpolnjeni štirje kumulativni kriteriji:
- Podobnost - visoka stopnja podobnosti med vsebino globokega ponaredka in simuliranim subjektom.
- Obstoječ - simulirane osebe, predmeti, kraji, entitete ali dogodki morajo biti podobni nekomu ali nečemu, kar obstaja, lahko verjetno obstaja ali bi lahko verjetno obstajalo v resnici.
- Osebe, predmeti, kraji, entitete ali dogodki – da vsebina predstavlja globoki ponaredek mora biti podobna obstoječim osebam, predmetom, krajem, entitetam ali dogodkom. Podrobnosti predpisujejo smernice.
- Lažni videz pristnosti ali resničnosti –vsebina, ki bi se osebi lažno zdela pristna ali resnična.
To se nanaša na bistveno značilnost ponarejene vsebine in njeno zmožnost, da potencialno zavede osebo glede pristnosti ali resničnosti vsebine.
Za oceno zadnjega zgornjega merila Smernice o preglednosti vsebin, ustvarjenih z umetno inteligenco, deležnikom omogočajo, da upoštevajo:
- stopnjo podobnosti,
- potencialno vsebinsko sporočilo vsebine,
- predvidene in predvidljive kontekste uvajanja,
- predvideno in razumno predvidljivo sestavo občinstva in njihova pričakovanja.
Uvajalci sistemov UI, ki ustvarjajo ali prirejajo vsebine, ki so globoki ponaredki (slike, video, zvok) ali objavljajo besedilo namenjeno obveščanju javnosti o zadevah javnega interesa, morajo razkriti, da so te vsebine umetno ustvarjene ali spremenjene.
Smernice vsebujejo primere, kdaj gre za globoke ponaredke in kdaj ne, kdaj gre za zadeve javnega interesa pri ustvarjanju besedil za informiranje javnosti (npr. zadeve glede s področja javnih storitev, varstva potrošnikov, demokratičnih procesov, temeljnih pravic) in kdaj besedila ustvarjenega z UI ni potrebno razkriti (če je predmet človeške preverbe ali uredniškega pregleda in kadar ima fizična ali pravna oseba uredniško odgovornost za objavo vsebine) in pogoje za to.
Smernice prav tako pojasnjujejo kdaj je podana izjema za vsebine, ki so del očitno umetniškega, ustvarjalnega, satiričnega, fiktivnega ali podobnega dela ali programa (kjer so obveznosti glede preglednosti omejene na razkritje obstoja take ustvarjene ali prirejene vsebine na ustrezen način, ki ne ovira prikazovanja ali uživanja dela) ter kdaj ne gre za tovrstno izjemo.
[1] Obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci
Katero besedilo, ki ga ustvari ali priredi UI, morajo ponudniki jasno označiti?
V skladu s 50(2) členom Akta o UI ponudniki sistemov UI, ki ustvarjajo ali prirejajo besedilno vsebino, zagotovijo, da so izhodni podatki označeni v strojno berljivi obliki (npr. vodni znaki, digitalno podpisani metapodatki) in da so ti izhodi tudi prepoznavni kot umetno ustvarjeni ali prirejeni. Rezultati njihovih generativnih sistemov umetne inteligence UI označeni z učinkovitimi, zanesljivimi, robustnimi in interoperabilnimi, strojno berljivimi oznakami, ki omogočajo zaznavanje rezultatov, kot jih generirajo ali manipulirajo sistemi UI. Gre za:
- besedilo v vsebnikih (»Containerised text«): Pri besedilih, vgrajenih v strukturirane datotečne formate (npr. PDF, Word ali HTML), morajo ponudniki podatke o izvoru vključiti v digitalno podpisane in časovno žigosane metapodatke.
- prosto besedilo (»Free-form text«): Pri neoblikovanem prostem besedilu, ki je daljše od 200 žetonov (»tokens«), morajo ponudniki vsebino označiti z neopaznim vodnim znakom (»imperceptible watermarking«).
Ponudnikom besedila ni treba označiti v naslednjih primerih, npr.:
- Zelo kratka besedila: Besedila, krajša od 200 žetonov, saj tehnološko še ne omogočajo zanesljivega vodnega žigosanja.
- Standardno urejanje in manjši popravki: Uporaba UI za preverjanje črkovanja, popravljanje slovnice, tehnično oblikovanje ali slogovne korekcije, ki bistveno ne spremeni vsebine, pomena ali sloga besedila.
- Izvorna koda in tehnične oznake: Programska koda (skripte, SQL, JSON, YAML), izhodni podatki za komunikacijo med stroji ter posamezne besede, naslovi slik ali elementi uporabniškega vmesnika.
- Kazenski pregon: Sistemi UI, ki imajo zakonsko podlago za odkrivanje, preprečevanje, preiskovanje kaznivih dejanj.
Relevanten člen : 50
[1] Obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci
[3] Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco
Katero besedilo, ki ga ustvari ali priredi UI, morajo uvajalci jasno označiti?
V skladu s členom 50(4) Akta o UI morajo uvajalci sistemov UI jasno označiti besedilo, ki ga je ustvarila ali spremenila umetna inteligenca in je objavljeno z namenom obveščanja javnosti o zadevah javnega interesa. Da besedilo spada v to obveznost, morajo biti izpolnjeni trije kriteriji.
Besedilo mora biti:
- objavljeno
- namenjeno za javnost (npr. objavljeno na prosto dostopnih spletnih straneh)
- o zadevah javnega interesa, kot so:
- politika in demokratični procesi,
- javna uprava in storitve,
- pravosodje in kazenski pregon,
- temeljne pravice,
- javna varnost,
- javno zdravje,
- varstvo okolja,
- varnost potrošnikov
- kateri koli gospodarski, finančni, politični, znanstveni ali kulturni razvoj, ki je lahko pomemben predmet javne razprave.
Uvajalcem pa ni potrebno označiti objavljenega besedila, če velja katera od naslednjih izjem:
- Človeški pregled in uredniška odgovornost: Če je besedilo pred objavo prestalo vsebinski pregled ali uredniški nadzor s strani človeka (npr. preverjanje dejstev) in določena pravna ali fizična oseba prevzema uredniško odgovornost za objavo (npr. tradicionalni mediji, strokovni blogi z uredništvom, uradne potrjene izjave).
- Osebna in neprofesionalna raba: Fizične osebe, ki ustvarjajo ali objavljajo besedila zgolj v zasebne oziroma nekomercialne namene.
- Neobjavljena besedila: Zasebna ali poslovna korespondenca med posamezniki ter interna komunikacija znotraj organizacij (npr. zapisi na intranetu).
- Vsebine, ki ne obravnavajo javnega interesa: fantazijski romani, opisi izdelkov v trgovini (brez trditev, ki se nanašajo na zdravje, varstvo potrošnikov ali okoljskih trditev) ali povzetki novic, generiranih v klepetalniku, ki so vidna le uporabniku, ki je podal poziv (»prompt«).
- Kazenski pregon: Objave besedil, ki so z zakonom dovoljene za potrebe preiskovanja in preprečevanja kaznivih dejanj.
Relevanten člen : 50
[1] Obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci
[3] Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco
Pred kratkim smo pričeli z uporabo UI orodij pri ustvarjanju vsebin za spletno stran, zato nas zanima kakšna je trenutna pravna ureditev glede tega v Sloveniji. Zanima nas ali smo dolžni navajati informacije/opombe pri vsebini, ki je bila ustvarjena s pomočjo metod UI (teksti, grafike, video itd.)?
Od 2. avgusta 2026, bo potrebno vsebine ustvarjene z orodji UI označevati. Za lažje razumevanje, kako je treba izpolnjevati obveznosti preglednosti generiranih vsebin je Evropska komisija izdala Smernice o izvajanju obveznosti glede preglednosti za nekatere sisteme umetne inteligence iz 50. člena Uredbe (EU) 2024/1689 Akta o umetni inteligenci in Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco. Oba dokumenta bosta pomagala tako ponudnikom kot uvajalcem pri izpolnjevanju obveznosti o preglednosti iz Akta o UI, ter odgovornim organom pri nadzoru označevanja generiranih vsebin.
Več podrobnosti o preglednosti generiranih vsebin je podanih v ostalih odgovorih na pogosta vprašanja.
Relevanten člen: 50
[2] Kodeks ravnanja glede preglednosti vsebin, ustvarjenih z umetno inteligenco