Kakšne pravice daje Akt o umetni inteligenci posameznikom?
Vsaka fizična oseba, pa tudi pravna oseba, ki utemeljeno meni, da je prišlo do kršitve določb Akta o umetni inteligenci, lahko pri organu za nadzor trga vloži pritožbo. Organ za nadzor trga takšne pritožbe upošteva pri izvajanju dejavnosti nadzora trga.
Poleg tega ima vsaka prizadeta oseba, za katero velja odločitev, ki jo uvajalec sprejme na podlagi izhodnih podatkov visokotveganega sistema UI iz Priloge III, razen sistemov iz točke 2 Priloge III (sistemi UI na področju kritične infrastrukture), in ki ima pravne učinke ali na to osebo podobno znatno vpliva na način, ki ima po njenem mnenju negativne učinke na njeno zdravje, varnost in temeljne pravice, pravico od uvajalca pridobiti jasna in smiselna pojasnila o vlogi sistema UI v postopku odločanja in glavnih elementih sprejete odločitve.
Pravica do obrazložitve postopka odločanja je zagotovljena le za sisteme UI, za katere ta pravica ni zagotovljena v drugi zakonodaji EU (na primer v zakonodaji s področja varstva osebnih podatkov). Podobno določbo vsebuje tudi Splošna uredba o varstvu podatkov (GDPR), vendar le za primere obdelave osebnih podatkov, določba Akta o umetni inteligenci pa jo dopolnjuje in določa primerljivo pravico tudi za sisteme UI, pri katerih ne pride do obdelave osebnih podatkov.
Relevantni členi: 85, 86, recitali 170 in 171.
Ali morajo vse organizacije, ki želijo uporabljati sisteme UI, zagotoviti pismenost svojih zaposlenih na področju UI?
Tako je, obveznost glede pismenosti na področju UI se ne nanaša samo na ponudnike in uvajalce visokotveganih sistemov, temveč morajo ponudniki in uvajalci vseh sistemov UI sprejeti ukrepe, da v najboljši možni meri zagotovijo zadostno raven pismenosti svojega osebja in tudi drugih oseb, ki se v njihovem imenu ukvarjajo z obratovanjem in uporabo sistemov UI, na področju UI, upoštevajoč njihovo tehnično znanje, izkušnje, izobrazbo in usposobljenost ter okolje, v katerem se bodo uporabljali sistemi UI, pa tudi osebe ali skupine oseb, v zvezi s katerimi se bodo uporabljali ti sistemi.
Namen te določbe je opremiti zaposlene, ki pri svojem delu razvijajo ali uporabljajo umetni inteligenco s spretnostmi, znanjem in razumevanjem, ki jim omogočajo, da informirano uvajajo sisteme UI ter se hkrati zavedajo priložnosti in tveganj na področju UI in morebitne škode, ki jo ta lahko povzroči.
Več o pismenosti na področju UI si lahko preberete na spletni strani EK.
Relevantni členi: 4.