Ali Akt o umetni inteligenci prepoveduje uporabo sistemov UI?
Akt o umetni inteligenci prepoveduje uporabo določenih sistemov UI, ki predstavljajo nesprejemljivo tveganje za zdravje, varnost ali temeljne pravice EU. Prepovedano je dajanje na trg, dajanje v uporabo in uporaba:
- sistemov UI, ki uporabljajo manipulativne in zavajajoče tehnike z namenom izkrivljanja vedenja oseb;
- sistemov UI, ki izkoriščajo šibke točke oseb zaradi njihove starosti, invalidnosti ali podobnega ranljivega položaja z namenom izkrivljanja njihovega vedenja;
- sistemov družbenega ocenjevanja (social scoring);
- sistemov UI, ki napovedujejo verjetnost, da bo oseba izvršila kaznivo dejanje (predictive policing tools);
- neciljano zbiranje podob obraza za ustvarjanje ali širjenje podatkovne zbirke za prepoznavanje obrazov;
- sistemov UI za sklepanje o čustvih osebe na delovnem mesti ali v izobraževalnih ustanovah;
- sistemov UI za biometrično kategorizacijo, ki razvrščajo posameznike na podlagi njihovih biometričnih podatkov, da bi prepoznali katero izmed občutljivih okoliščin, na primer politično prepričanje ali spolno usmerjenost.
Uporaba teh sistemov nikoli ni dopustna. Za dajanje na trg, dajanje v uporabo ali uporabo tovrstnih sistemov UI Akt o umetni inteligenci predvideva najvišje globe. Več informacij o prepovedanih sistemih UI je na voljo v Smernicah EK.
Relevanten člen: 5, recitali 29, 30, 31, 32, 33.
Ali so prepovedani tudi sistemi UI za biometrično identifikacijo na daljavo v realnem času v javno dostopnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj?
Ti sistemi UI so sicer uvrščeni med prepovedane sisteme UI, vendar lahko države članice njihovo uporabo izjemoma dopustijo v nacionalni zakonodaji, če je uporaba tovrstnih sistemov UI strogo omejena in podvržena predhodni sodni presoji. Če nacionalna zakonodaja uporabo teh sistemov UI dopušča, se tovrstni sistemi štejejo za visokotvegane sisteme UI in morajo izpolnjevati zahteve, ki veljajo zanje.
Slovenija nima urejene izjeme, ki bi dovoljevala uporabo sistemom UI za biometrično identifikacijo na daljavo v realnem času v javno dostopnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, zato je uporaba teh sistemov UI v RS prepovedana.
Relevanten člen: 5, recitali 32, 33, 34, 35, 36, 37, 38, 39.