|

Po opredelitvi ponudnika in uvajalca agencija pojasnjuje pojem »globoki ponaredek«. Za uvajalce sistemov UI je razumevanje opredelitve pomembno, saj obveznosti glede preglednosti med drugim veljajo ravno za vsebine, ki so globoki ponaredek. 

Kaj določa Akt o umetni inteligenci 

Prva obveznost glede preglednosti po četrtem odstavku 50. člena Akta o umetni inteligenci (v nadaljevanju: Akt o UI) zadeva globoke ponaredke. Akt o UI v 60. točki 3. člena globoki ponaredek opredeljuje kot »z UI ustvarjeno ali manipulirano slikovno, zvočno ali video vsebino, ki je podobna obstoječim osebam, predmetom, krajem, subjektom ali dogodkom in se uporabniku lažno zdi pristna ali resnična«.

Kaj o posameznih merilih pojasnjujejo Smernice za izvajanje obveznosti glede preglednosti za nekatere sisteme UI

Čeprav Smernice za izvajanje obveznosti glede preglednosti za nekatere sisteme UI v skladu s 50. členom Akta o UI (v nadaljevanju: Smernice) niso pravno zavezujoče, uvajalcem ponujajo praktične usmeritve za enotno razumevanje in opredelitev globokega ponaredka. Da bi vsebina pomenila globoki ponaredek, morajo biti izpolnjeni vsa štiri kumulativna merila, ki izhajajo iz opredelitve:

• Podobnost - visoka stopnja podobnosti med vsebino globokega ponaredka in simuliranim subjektom.

• Obstoječ - simulirane osebe, predmeti, kraji, entitete ali dogodki morajo biti podobni nekomu ali nečemu, kar obstaja, lahko verjetno obstaja ali bi lahko verjetno obstajalo v resnici.

• Osebe, predmeti, kraji, subjekti ali dogodki – da vsebina pomeni globoki ponaredek mora biti podobna obstoječim osebam, predmetom, krajem, entitetam ali dogodkom. 

• Lažni vtis, da je vsebina pristna ali resnična – vsebina, ki bi se osebi lažno zdela pristna ali resnična. 

Iz opredelitve izhaja, da je vsebina lahko ali ustvarjena ali prirejena (»manipulirana«) s sistemom UI. Pri ustvarjanju sistem UI izdela novo sintetično vsebino, na primer ustvari sliko. Pri prirejanju sistem UI spremeni že obstoječo vsebino, na primer spremeni del zvočnega posnetka. Vsaka z UI ustvarjena ali prirejena vsebina (video, slika ali zvok), sama po sebi še ni globoki ponaredek. To postane le, če izpolnjuje vse štiri merila iz opredelitve zgoraj. 

Iz opredelitve izhaja tudi, da besedilo ne more biti globoki ponaredek. Za z UI ustvarjeno ali prirejeno besedilo, ki je objavljeno z namenom obveščanja javnosti o zadevah javnega interesa, velja ločena obveznost iz četrtega odstavka 50. člena (več si lahko preberete v odgovorih na pogosta vprašanja o preglednosti, ki jih je agencija že objavila). 

1. Podobnost: v znatni meri, ne nujno enako

Uvodna izjava 134 Akta o UI dodaja, da mora biti vsebina subjektu podobna »v znatni meri«. Smernice to razlagajo kot visoko stopnjo podobnosti s simuliranim subjektom ali s katerim koli njegovim prepoznavnim elementom. Vsebina subjektu ni nujno enaka. Globoki ponaredek je na primer tudi z UI ustvarjen videoposnetek osebe, ki je le podobna politiku in govori pred občinstvom. Podobnost uvajalec oceni za vsak primer posebej, z objektivno primerjavo vsebine in simuliranega subjekta. Upošteva, v kolikšni meri so prikazane njegove značilne ali razločevalne lastnosti.

2. Obstoječ: dovolj je, da bi lahko obstajal

Smernice merilo razlagajo glede na namen četrtega odstavka 50. člena, ki je zmanjšati tveganja izdajanja za drugo osebo, zavajanja, dezinformacij, prirejanja in goljufij. Zato zadošča, da je vsebina realistična. Simulirana oseba, predmet ali kraj ni nujno resničen, dovolj je, da bi lahko verjetno obstajal. Globoki ponaredek je tako lahko tudi realističen avatar ali persona, ustvarjena z UI, čeprav točno takšna oseba v resnici ne obstaja. Nerealistični prizori, ki kljubujejo naravnim ali fizikalnim zakonom in ne morejo zavesti, niso zajeti. Smernice kot primere nerealističnih prizorov navajajo ljudi, ki letijo brez mehanskih pripomočkov, zmaje ali slone, ki vozijo avtomobile ipd.

3. Osebe, predmeti, kraji, subjekti ali dogodki: kaj zajema posamezna kategorija

Smernice podrobneje opredeljujejo tudi, kaj je treba razumeti kot osebo, predmet, kraj, subjekt ali dogodek, ki ga globoki ponaredek upodablja: 

• Osebe - človeška bitja, vključno z digitalnimi replikami resničnih oseb, realističnimi avatarji in personami, ustvarjenimi z UI, ter osebnimi značilnostmi, kot so podoba, glas, vedenje in nastopi

• Predmeti - nežive materialne stvari, npr. stavbe, stroji in potrošniško blago

• Kraji - realistične lokacije

• Subjekti - nečloveška živa bitja, npr. živali, in druge biološke oblike življenja

• Dogodki - prizori ali situacije, ki lahko vključujejo osebe, predmete, kraje in subjekte, npr. obujanje zgodovinskih dogodkov ali prikaz poklicnih ali potrošniških storitev

4. Lažni vtis pristnosti ali resničnosti: zmožnost zavajanja

To merilo opisuje bistvo globokega ponaredka: njegovo zmožnost, da osebo zavede glede pristnosti ali resničnosti vsebine. Smernice ločijo dva pojma. Pristnost vsebine se nanaša na to, ali je vsebina dejansko to, za kar se predstavlja, kar zadeva njen vir ali postopek ustvarjanja (vključno npr. z udeležbo resničnih ljudi ali živali in njihovim dejanskim vedenjem ali dejanji, dejanskim videzom ali uporabo predmetov ali opravljanjem storitev, natančnim potekom ali razvojem dogodka). Resničnost se nanaša na to, ali je vsebina resnična (npr. dejanska pravilnost prikazov v globokem ponaredku).

Ocena je objektivna, in pri njej namen uvajalca, da bi koga zavedel, ni potreben. Vsebino je treba oceniti kot celoto, pri čemer se upoštevajo:

• stopnja podobnosti,

• morebitno vsebinsko sporočilo vsebine,

• predvideni in predvidljivi konteksti uvajanja,

• okolje, v katerem je vsebina predstavljena,

• sestava predvidenega in razumno predvidljivega občinstva ter njegova pričakovanja.

Pri stopnji podobnosti gre za to, kako podobna je vsebina resničnemu subjektu. Smernice opredeljujejo, da je pri slikovni in video vsebini zaradi visoke stopnje fotorealizma verjetneje, da gre za globoki ponaredek. Fotorealizem pa sam po sebi ni odločilen: še vedno je treba oceniti, ali vsebina lahko zavede v kontekstu, v katerem je predstavljena.

Vsebinsko sporočilo je tisto, kar vsebina gledalcu ali poslušalcu sporoča kot dejstvo, npr. da je neka oseba nekaj izjavila ali storila, kakšen je izdelek ali da se je nekaj zgodilo. 

• Videoposnetek osebe, podobne politiku, ki govori pred občinstvom, gledalcu sporoča, da je politik govor res imel. Smernice ga štejejo za globoki ponaredek. 

• Pri resničnem proizvodu (npr. avtomobilu) v oglasu pred ozadjem, ustvarjenim z UI, pa sporočilo o izdelku ostane enako. Smernice takega oglasa ne štejejo za globoki ponaredek, če ne zavaja glede izdelka in njegovih lastnosti. V nasprotju je globoki ponaredek lahko z UI ustvarjena slika, ki prikaže izdelek drugačen oziroma boljši, kot je v resnici.

Posledično lahko kontekst uvajanja vsebine, ki jo uvajalec ustvari ali priredi z UI lažni vtis izključi. Če občinstvo v danem kontekstu ne pričakuje, da je vsebina pristna ali resnična, merilo ni izpolnjeno (npr. z UI ustvarjeni posebni učinki in prizori v ozadju filma ali fiktivna okolja v videoigri). 

Obenem je pri sestavi predvidenega in razumno predvidljivega občinstva potrebno upoštevati kontekste v katerih gre lahko za otroke, starejše in osebe z nižjo digitalno pismenostjo ali pismenostjo na področju UI. Če bi vsebina zavedla že te skupine, je to lahko dovolj, da se jo opredeli kot globoki ponaredek. Pri tem uvajalcu ni treba predvidevati nadaljnjega širjenja vsebine zunaj občinstva, ki ga razumno predvidi glede na distribucijske kanale, npr. če se neka vsebina, deljena na notranjem spletišču med sodelavci, pozneje znajde na socialnem omrežju.

Preverite svoje razumevanje s primeri iz Smernic

Smernice navajajo primere, ki pomagajo razmejiti globoke ponaredke od drugih vsebin, ustvarjenih ali prirejenih z UI. Razumevanje opredelitve lahko preverite sami: preberite primer v prvem stolpcu, se odločite, ali gre za globoki ponaredek, in šele nato poglejte odgovor v drugem stolpcu.

! Pri tem je pomembno poudariti, da primeri niso izčrpni. Ponazarjajo, kako Smernice uporabijo merila, ne nadomeščajo pa presoje v posameznem primeru. Enaka vsebina je lahko v drugem kontekstu, pred drugim občinstvom ali z drugačnim vsebinskim sporočilom ocenjena drugače. Uvajalec mora zato vsako vsebino oceniti glede na okoliščine, v katerih jo objavi. !

Kdaj nastane obveznost razkritja, da gre za UI ustvarjeno ali prirejeno vsebino iz četrtega odstavka 50. člena Akta o UI

Vsebina opredeljena kot globoki ponaredek, je le eden od pogojev, da velja obveznost glede preglednosti iz četrtega odstavka 50. člena Akta o UI. Vsebino je potrebno označiti kadar so poleg tega izpolnjeni še naslednji pogoj:

• uvajalec sistem UI uporablja v poklicne namene, ter

• ne gre za uporabo, ki je z zakonom dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj.

Kako morajo uvajalci globoke ponaredke označiti, smo podrobneje pojasnili v novici Označevanje vsebin in obveznosti, ki veljajo za uvajalce sistemov UI, po 4. odstavku 50. člena Akta o UI, agencija pa je objavila tudi nabor ikon v slovenskem jeziku.

Smernice za izvajanje obveznosti glede preglednosti za nekatere sisteme UI, na katerih temelji to pojasnilo, so zdaj na voljo tudi v slovenščini.