Tomislav Sokol
 Marko Todorov/cropix
AI u kaznenom pravu

Europarlamentarci su jasno dali do znanja da se protive masovnom nadzoru

Izvješće je ukazalo na rizik algoritamske pristranosti u aplikacijama umjetne inteligencije te naglasilo potrebu za ljudskim nadzorom koji bi spriječio diskriminaciju
Piše: Iva BadanjakObjavljeno: 06. listopad 2021. 14:51

Europarlamentarci su usvojili rezoluciju o upotrebi umjetne inteligencije u kaznenom pravu i njezinoj primjeni od strane policije i pravosudnih tijela.

U rezoluciji usvojenoj s 377 glasova 'za', 248 'protiv' i 62 suzdržana, europarlamentarci su jasno dali do znanja da se protive masovnom nadzoru i zatražili jake mjere zaštite ljudskih prava u provedbi alata AI-ja od strane policije.

"Temeljna prava su bezuvjetna. Po prvi put u povijesti pozivamo na moratorij na primjenu sustava za prepoznavanje lica u svrhu provođenja zakona, jer se tehnologija pokazala neučinkovitom i često dovodi do diskriminatornih rezultata. Jasno se protivimo metodi predviđanja ponašanja zasnovanoj na upotrebi umjetne inteligencije, kao i bilo kojoj obradi biometrijskih podataka koja dovodi do masovnog nadzora. Ovo je velika pobjeda za sve građane Europe", izjavio je izvjestitelj Petar Vitanov (S&D).

Izvješće je ukazalo na rizik algoritamske pristranosti u aplikacijama umjetne inteligencije te naglasilo potrebu za ljudskim nadzorom koji bi spriječio diskriminaciju. Ljudi uvijek moraju donositi konačne odluke, istaknuli su zastupnici EP-a koji su također zatražili zabranu korištenja sustava društvenog bodovanja i automatskog prepoznavanja lica u javnim prostorima i graničnoj kontroli.

Tijekom rasprave uoči glasanja o izvješću, političke grupacije podijelile su se oko određenih pitanja. Jedan tabor je isticao kako se AI treba regulirati kako bi se zaštitila ljudska prava, dok je drugi tabor tvrdio da policija mora koristiti AI da bi se zaštitila ljudska prava.

Klub zastupnika europskih pučana podnio je tri amandmana u pokušaju da ublaži tekst o upotrebi AI-ju u provedbi zakona radi predviđanja ponašanja. Zastupnici EPP-a ponudili su da se moratorij na postavljanje prepoznavanja lica u javnim prostorima zamijeni obećanjem kako bi se osiguralo poštivanje temeljnih prava.

Belgijski zastupnik Tom Vandenkendelaere je u ime europskih demokršćana rekao kako je na Parlamentu zadaća da pronađe ravnotežu i zadovolji očekivanja građana.

"AI će oblikovati našu budućnost i naš način života. Digitalizaciju društva nećemo moći izbjeći i ne možemo ostati slijepi pred novom stvarnošću. Naša je zadaća u ovom domu pronaći pravu ravnotežu između novih tehnologija i zaštite temeljnih prava", kazao je Vandenkendelaere.

Zastupnik EPP-a Tomislav Sokol, upozorio je kolege u Parlamentu da ne stvaraju histeriju oko pitanja korištenja AI-ja.

"Kako bi zaštitila građane od njezine zlouporabe i postala svjetski predvodnik u pametnim tehnologijama, EU treba novi sveobuhvatni pristup AI-ju. Prepoznavanje lica na javnim mjestima za potrebe kaznenog progona u skladu s načelom proporcionalnosti treba ograničiti na situacije kao što su potraga za nestalim djetetom, sprječavanje konkretne i neposredne terorističke prijetnje i otkrivanje, lociranje i identificiranje ili istraga protiv počinitelja teškog kaznenog djela ili osumnjičenika za takva djela. Moramo postići balans između korištenja AI-ju u svrhu hvatanja kriminalaca s jedne strane i zaštite ljudskih prava s druge strane, ali bez širenja histerije i paranoje čemu nažalost ovdje sada svjedočimo", rekao je Sokol.

S druge strane, članovi Progresivnog saveza socijalista i demokrata u Parlamentu izrazili su zabrinutost zbog spomenutih amandmana, tvrdeći da će se time otvoriti put masovnom nadzoru i korištenju metoda predviđanja ponašanja od strane policije, a za koje smatraju da krše načelo presumpcije nevinosti.

"U Europi nema mjesta za masovni biometrijski nadzor. Sigurnost i borba protiv kriminala ne smije ugroziti temeljna prava naših građana. Korištenje biometrijskih podataka u javnom prostoru znači zadiranje u privatni život i u temelje naših demokratskih sustava. To će ugroziti slobodu, izražavanja i okupljanja. Izlažemo se neprihvatljivim rizicima, a nadzorna tijela imat će u svojim rukama alate kojima će moći učiniti nepopravljive pogreške", rekao je zastupnik Brando Benifei u ime europskih socijaldemokrata.

Liberal Dragos Tudorache podsjetio je Parlament da je pitanje umjetne inteligencije koju koristi policija politička, a ne tehnološka odluka.

"Tehnologija mora biti samo alat i moramo ju koristiti tako da nam služi. Europsku uniju smo izgradili na temeljnim vrijednostima i one nas vode u budućnost, pokazuju nam što trebamo i možemo učiniti. Ono što ne smijemo učiniti je dopustiti da tehnologija krši naša prava i uništava naše vrijednosti. Izazovi neće dolaziti od alata nego od naše spremnosti i nespremnosti da ih sigurno koristimo. Trebamo jačati demokraciju i otpornost naših institucija", poručio je Tudorache, predsjednik Posebnog odbora za umjetnu inteligenciju u digitalnom dobu.

Kim van Sparrentak iz Zelenih kazala je da AI nije brzo rješenje za suzbijanje kriminaliteta i terorizma, dok je Cornelia Ernst (Ljevica) poručila da je biometrijsko prepoznavanje lica u javnim prostorima opasan alat koji će dovesti do masovnog nadzora i teškog zadiranja u privatne sfere.

"Inovacija kroz AI doista može predstavljati veliki napredak, čak i u policijskom radu. Međutim, korištenje AI u kaznenom pravu trebamo označiti oznakom visokog rizika. Masovni nadzor kroz softvere automatskog prepoznavanja lica u otvorenim i javnim prostorima je nešto to se ne smije i ne može dozvoliti. Ljudska prava su nešto o čemu nema pregovora. Čudim se da je EPP taj koji inzistira na takvim alatima koji dopuštaju masovni nadzor. Borit ću se da zakon o AI-ju jača naša temeljna prava, a ne da ih potkopava", dodala je liberalka Svenja Hahn (Renew Europe).

Usvojeno izvješće o AI-ju u kaznenim pravu moglo bi pokazati kojim putem će Europski parlament ići, odnosno koji će pristup podržati tijekom skorašnje rasprave o Zakonu o umjetnoj inteligenciji koju je Komisija predložila u travnju.

Linker
24. listopad 2021 13:03