Pojasnilo agencije, kako morajo ponudniki sistemov umetne inteligence (v nadaljevanju: UI), vključno s sistemi UI za splošne namene, ki ustvarjajo sintetično zvočno, slikovno, video ali besedilno vsebino, zagotoviti skladnost z obveznostmi označevanja umetno ustvarjenih ali prirejenih vsebin, kot jih določa drugi odstavek 50. člena Akta o UI.
Obveznosti se uporabljajo od 2. avgusta 2026. Za ponudnike navedenih sistemov UI, ki so bili dani na trg pred tem datumom, velja prehodno obdobje: izpolnjevanje teh obveznosti morajo zagotoviti najpozneje do 2. decembra 2026.
Kaj je cilj označevanja?
Fizičnim osebam omogočiti razlikovanje z UI ustvarjene ali prirejene vsebine od druge vsebine (na primer vsebine, ki so jo ustvarili ljudje) ter preverjanje njenega izvora. S tem se prispeva k večji integriteti informacijskega ekosistema in zaupanju vanj ter zmanjševanju tveganj, povezanih z dezinformacijami, manipulacijami in prevarami. Takšne oznake in mehanizmi zaznavanja so pomembni predvsem za posameznike, nadzorne organe, medije in spletne platforme.
Kdo mora označiti?
Ponudniki, katerih sistemi UI, vključno s sistemi UI za splošne namene (GPAI), ustvarjajo ali prirejajo sintetično vsebino (zvok, slika, video ali besedilo).
Ustvarjanjevsebine pomeni, da sistem UI ustvari novo sintetično vsebino (npr. na podlagi človeškega poziva (prompta), kot je ustvarjanje sintetične slike ali pesmi).
Prirejanjevsebine pomeni, da sistem UI spremeni že obstoječo vsebino, ki je lahko sintetična ali nesintetična (npr. obstoječo sliko ali zvočni posnetek glasu, ki ju sistem UI priredi v skladu s človeškimi navodili).
Za katere vrste sistemov UI velja označevanje?
Izpolnjeni morajo biti vsi naslednji pogoji:
sistem se opredeli kot sistem UI;
sistem UI mora biti zmožen ustvarjanja ali prirejanja sintetične vsebine;
vsebina mora biti v eni ali več naslednjih oblik (modalnosti): zvok, slika, video ali besedilo;
ne velja nobena od izjem.
Obveznosti iz člena 50(2) se uporabljajo za:
generativne sisteme UI, zasnovane z ozkim predvidenim namenom za ustvarjanje specifičnih izhodnih podatkov,
sisteme UI, ki lahko služijo več namenom, vključno s sistemi UI za splošne namene, ki lahko ustvarijo različne vrste vsebin in
agentske sisteme UI, če ustvarjajo sintetične zvočne, slikovne, video ali besedilne vsebine.
Katere so izjeme?
sistem UI opravlja podporno funkcijo pri standardnem urejanju vsebine (npr. manjši popravki za izboljšanje berljivosti in slovnice, kakovosti in formata);
sistem UI ne spremeni bistveno vhodnih podatkov, ki jih je zagotovil uvajalec, ali njihove semantike – ocenjuje se vsak posamezen primer (ocena ustreznih dejavnikov, kot so format, vrsta medijske vsebine, slog in spremembe v vsebini, ki vplivajo na njen pomen, slog ali namen); ali
sistem UI je zakonsko dovoljen za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj.
Kaj mora biti označeno?
Ponudnik mora označiti izhodne podatke sistema UI (sliko, video, zvok ali besedilo). Pri tem mora zagotoviti, da so izhodni podatki sistema UI označeni v strojno berljivem formatu, kot tudi, da so izhodni podatki zaznavni kot umetno ustvarjena ali prirejena vsebina.
Za vsako uvedeno rešitev označevanja morajo ponudniki zagotoviti dostopnost ustreznih sredstev za zaznavanje oznak (orodij), ki osebam izpostavljenim vsebini, in drugim ustreznim akterjem omogočajo prepoznavanje in razlikovanje umetno ustvarjene vsebine sistema UI od druge vsebine. Tehnično rešitev je treba razumeti kot kombinacijo tehnik označevanja in sredstev za zaznavanje, ki jih je ponudnik implementiral za izpolnitev obveznosti preglednosti iz člena 50(2) Akta o UI.
Oba elementa (zaznavanje in označevanje) morata biti izpolnjena za učinkovito doseganje ciljev obveznosti preglednosti iz člena 50(2) Akta o UI. Izpolnjevanje samo enega elementa (npr. strojno berljivo označevanje izhodnih podatkov brez razpoložljivih sredstev za njihovo zaznavanje) ne bo zadoščalo za skladnost s to določbo.
Ponudniki morajo zagotoviti, da je uporabljena tehnična rešitev (označevanja in zaznavanja) učinkovita, interoperabilna, robustna in zanesljiva, kolikor je to tehnično izvedljivo.
POMEMBNO!
Ni potrebno, da je vsebina ustvarjena ali prirejena izključno z UI. Vsebina, ki združuje z UI ustvarjeno ali prirejeno gradivo in gradivo, ki ga je ustvaril človek, se prav tako opredeli kot sintetična vsebina, če je prirejena ali ustvarjena v eni od oblik (modalnosti) iz člena 50(2) Akta o UI (zvok, slika, video ali besedilo).
Na kakšen način se izvede označevanje?
1. obveznost označevanja
Oznake morajo biti v strojno berljivem formatu, kar pomeni, da so oznake strukturirane na način, ki programskim aplikacijam omogoča, da jih samodejno prepoznajo, preberejo in obdelajo brez posredovanja človeka. Ponudniki se lahko zanašajo na eno samo tehniko označevanja ali kombinacijo tehnik, če je njihova celostna tehnična rešitev strojno berljiva ter izpolnjuje zahteve glede učinkovitosti, interoperabilnosti, robustnosti in zanesljivosti do zakonsko zahtevane ravni.
Možne tehnike označevanja:
vodni znaki;
označevanje z metapodatki;
kriptografske metode za dokazovanje izvora in avtentičnosti vsebine;
metode beleženja;
digitalni prstni odtisi ali
druge ustrezne tehnike ali kombinacije navedenih tehnik.
2. obveznost zaznavanja
Ponudnik je dolžan zagotoviti, da so sredstva za zaznavanje (orodja) na voljo osebam, ki so potencialno izpostavljene vsebini. Poleg tega bi morale v skladu s členom 50(5) Akta o UI takšne rešitve zaznavanja omogočati ustvarjanje rezultatov, ki jih ljudje lahko berejo in ki označujejo, ali je bila vsebina ustvarjena ali prirejena z UI. Informacije iz člena 50(2) Akta o UI morajo biti fizičnim osebam, izpostavljenim vsebini, zagotovljene na jasen in razpoznaven način najpozneje ob prvi interakciji ali izpostavljenosti. Prva izpostavljenost se razume tako, da mora biti rezultat zaznavanja na voljo, ko želi posameznik preveriti izvor konkretne vsebine in dostopa do ustrezne rešitve za zaznavanje.
Ponudnikom je pri izbiri in izvajanju tehničnih rešitev v pomoč tudi Kodeks ravnanja o preglednosti vsebin, ustvarjenih z UI. Njegov prvi oddelek obravnava strojno berljivo označevanje in zaznavanje umetno ustvarjenih ali prirejenih vsebin ter zahteve glede učinkovitosti, interoperabilnosti, robustnosti in zanesljivosti tehničnih rešitev. Pristop h kodeksu je prostovoljen, obveznosti iz Akta o UI pa veljajo ne glede na pristop k njemu.
PRAKTIČNI PRIMERI:
Obveznosti veljajo za:
z UI ustvarjene povzetke besedila; parafraziranje ali ponovno pisanje besedila, kadar spremembe sloga, strukture ali pomena presegajo zgolj slovnične in manjše slogovne popravke;
odstranjevanje, zamenjavo ali vstavljanje predmetov ali oseb v obstoječe slike in videoposnetke, kadar se s tem spremeni pomen ali bistvo vsebine;
zamenjavo obraza ali bistveno spremembo obraza;
sintezo realističnega govora v glasu določene osebe ali ustvarjanje realističnega videoposnetka, ki prikazuje dogodke, ki se niso zgodili;
za spreminjanje oblike telesa ali barve kože osebe;
ekstremne spremembe posvetlitve, potemnitve, barv in kontrasta, kadar te spremenijo pomen, namen in sporočilo vsebine;
ustvarjanje sestavljenih slik ali videoposnetkov, ki spreminjajo prikaz oseb, predmetov, dogodkov ali dejstev, ter za druge bistvene spremembe vsebine;
3D-slike, 3D-video, 3D-zvok, če gre za z UI ustvarjeno ali prirejeno vsebino;
vsebine v navidezni, obogateni ali mešani resničnosti, če gre za z UI ustvarjeno ali prirejeno zvočno, slikovno, video ali besedilno vsebino;
digitalne dvojčke, če njihov izhod predstavlja z UI ustvarjeno ali prirejeno zvočno, slikovno, video ali besedilno vsebino;
agente UI, če ustvarjajo ali prirejajo sintetično zvočno, slikovno, video ali besedilno vsebino.
Obveznosti NE veljajo za:
- enostavno obdelavo podatkov, pri kateri sistem UI ne ustvarja ali prireja sintetične vsebine;
- pregled in razvrščanje podatkov (npr. priporočilne sisteme, ki le izbirajo ali razvrščajo obstoječo vsebino oziroma sestavljajo glasbene predvajalne sezname);
- zajem podatkov (npr. z roboti ali drugimi senzorji, podprtimi z UI), če sistem UI teh podatkov ne ustvarja ali prireja;
- izhodne podatke, ki niso namenjeni človeški zaznavi;
- zelo kratka besedila oziroma kratka zaporedja številk, simbolov ali črk (npr. posamezne besede, napise pod slikami, nadomestna besedila, oznake uporabniškega vmesnika, grafike v velikosti ikon, druge podatkovne oznake);
- programsko kodo, tj. vsebino, zapisano v programskem, skriptnem, označevalnem, poizvedovalnem ali konfiguracijskem jeziku, namenjeno razlagi, prevajanju ali izvajanju v računalniškem sistemu;
- komunikacijo med stroji (npr. komunikacijo med agenti ali signale za zaznavanje neželene pošte), če takšni izhodni podatki niso namenjeni zaznavi fizičnih oseb;
- vmesne izhodne podatke v industrijskih delovnih procesih (npr. pri proizvodnji filmov, animacij, iger ali oglasov), kadar ti niso namenjeni uporabi ali zaznavi fizičnih oseb.
Če gre za končni izhodni podatek sistema UI, namenjen uporabi ali zaznavi fizičnih oseb, je treba obveznosti označevanja presojati ob upoštevanju splošnih pogojev in izjem.
