Nekoliko američkih banaka počelo je primjenjivati softver za kamere koji može analizirati preferencije kupaca, nadgledati radnike i zapažati ljude koji spavaju u blizini bankomata.
City National Bank of Florida i JPMorgan Chase su Reutersu potvrdili da testiraju kamere za prepoznavanje lica s ciljem identificiranja kupaca na šalterima i zaposlenika te boljeg raspoređivanja osoblja.
Međutim, stručnjaci ističu kako je korištenje takve tehnologije još uvijek iznimno osjetljivo pitanje jer su dosadašnja istraživanja pokazala da jača stereotipe. Točnije, pojedini softveri pokazali su se manje precizni u prepoznavanju lica ljudi čija koža nije bijele boje te su iskusili poteškoće u prepoznavanju transrodnih osoba.
U EU videonadzor nije zabranjen, ali mora se voditi u skladu s GDPR regulativom, koju su inicirali Europski parlament i Vijeće Europe. Snimanje osoba, jednako kao i e-mailovi, imena i drugi slični podaci su osobni podaci na temelju kojih se nekog može identificirati, i stoga se za to primjenjuju pravila zaštite osobnih podataka.
Gotovo sve europske institucije i tijela EU-a imaju ugrađen video nadzor u svojim prostorijama, pa tako i Europski parlament.
Europski nadzornik za zaštitu podataka (EDPS) ističe kako su dobro dizajnirani i selektivno korišteni sustavi videonadzora snažni alati za rješavanje problema sigurnosti podataka.
Tri su najčešća pitanja na koja treba obratiti pozornost – kvaliteta podataka, pravo na informaciju i razdoblje zadržavanja.
Što se tiče kvalitete podataka, preporučuje se da kamere snimaju samo posebno identificirane sigurnosne probleme, čime se smanjuje prikupljanje nebitnih snimaka i narušavanje privatnosti.
U zgradama u kojima se koristi videonadzor potrebno je postaviti jasno vidljive obavijesti o informiranju osoblja i posjetitelja o postavljenim sigurnosnim kamerama i svrsi zadržavanja snimke.
Također, institucije su obvezne obrisati snimke nakon određenog vremena, odnosno ne smiju ih pohranjivati.
Europski parlament je 22. siječnja iznio stajalište o korištenju tehnologije za prepoznavanje lica.
EP je pozvao na uspostavu novog pravnog okvira za razvoj umjetne inteligencije i biometrijskih aplikacija povezanih s nadzorom i etičkim načelima.
Dokument je podijeljen u tri glavne teme - vojnu uporabu i ljudski nadzor, umjetnu inteligenciju u javnom sektoru te masovni nadzor i dubinske laži (deepfake).
"Suočeni s višestrukim izazovima koje stvara razvoj umjetne inteligencije, trebaju nam pravni odgovori", objasnio je europarlamentarac Gilles Lebreton iz EP-ove grupe za identitet i demokraciju.
U prvoj točci zastupnici ističu da ljudsko dostojanstvo i ljudska prava treba poštivati u svim aktivnostima obrane EU-a, posebno u pogledu smrtonosnih autonomnih oružnih sustava (LAWS), koje je EP osudio još 2018. godine.
Obično nazvani "roboti ubojice", ovi strojevi koriste algoritme zasnovane na dubokim neuronskim mrežama kako bi izvršili prepoznavanje lica na svojoj meti, a zatim pucali bez potrebne ljudske intervencije. Cilj novih smjernica je to promijeniti uvođenjem elementa ljudske kontrole.
Drugi dio dokumenta usredotočuje se na pojašnjavanje da sustavi umjetne inteligencije koji se koriste u javnim službama, posebno u zdravstvu i pravosuđu, ne bi trebali zamijeniti ljudski kontakt ili dovesti do diskriminacije uzrokovane, primjerice, pristranostima vezanim uz prepoznavanje lica.
Konačno, eurozastupnici pozvali su na nove smjernice povezane s kršenjem ljudskih prava potencijalno uzrokovanim biometrijom i drugim tehnologijama umjetne inteligencije u masovnom civilnom i vojnom nadzoru.
