Tveganja uporabe umetne inteligence pri preiskovanju in odkrivanju kaznivih dejanj v kazenskih postopkih in nadzoru meja ter upravljanju migracij

EU je prva na svetu sprejela Akt o umetni inteligenci, ki je pravni okvir za razvoj umetne inteligence. Poglavje obravnava uporabo umetne inteligence pri odkrivanju in preprečevanju kaznivih dejanj, zlasti na področju organiziranega kriminala, terorizma, zagotavljana varnosti državljanov EU, obvladovanja migracij in nadzora meja. Strojno učenje umetne inteligence lahko privede do pristranskosti in diskriminacije zaradi algoritmov, na katerih te aplikacije temeljijo. Kakovost uporabljenih podatkov vpliva na rezultate aplikacij, kar povečuje inherentno pristranskost. Akt o umetni inteligenci poudarja, da je treba  prepovedati uporabo umetne inteligence, če ni združljiva s temeljnimi pravicami, zapisanimi v Listini Evropske unije o temeljnih pravicah.^. Splošna uporaba umetne inteligence za namene množičnega nadzora je nesorazmerna. Ključno je uravnoteženje varstva pravic posameznikov in učinkovito izvajanje policijskih nalog. Pri uporabi umetne inteligence za preiskovanje kaznivih dejanj je nujno upoštevati Etične smernice za uporabo umetne inteligence, saj imajo odločitve resne posledice za življenje in svobodo posameznikov.