Utrka u razvoju

EU postavlja standarde za umjetnu inteligenciju, hoće li zakočiti tvrtke i razvoj?

AUTOR:

OBJAVLJENO:

24.1.2019. u 11:13

AUTOR:

OBJAVLJENO:

24.1.2019. u 11:13

Brigadier Lance Mans, Deputy Director, NATO Special Operations Coordination Centre / Wikimedia, public domain

Dron BAE Systemsa

Umjetna inteligencija jedna je od sila koje će transformirati društvo, ona pruža veliku mogućnost napretka i rasta koju Europa mora uhvatiti, ali donosi i rizike kojima treba dobro upravljati, poručuju iz EK u nacrtu Etičkih smjernica za umjetnu inteligenciju dostojnu povjerenja (Ethics Guidelines for Trustworthy AI), koje su nedavno uputili u proces online konzultacija koje traju do 1. veljače.

U tome je nužan humanocentrički pristup, naglašavaju, što znači da se na razvoj i korištenje umjetne inteligencije (AI) ne smije gledati kao svrhu samu po sebi, nego joj cilj mora biti povećanje dobrobiti za čovjeka.

Temeljna ljudska prava

Smjernice je sastavila skupina od 52 europska eksperta, a koncentrirane su oko dvije komponente: prvo, u razvoju umjetne inteligencije moraju se poštovati temeljna ljudska prava, propisi i ključni principi i vrijednosti, osiguravajući time “etičku svrhu” te, drugo, takva umjetna inteligencija tehnološki mora biti snažna i pouzdana jer, čak i s dobrim namjerama, manjkava rješenja mogu proizvesti štetu. Sadržaj je, pak, fokusiran na konkretnu provedbu i operacionalizaciju primjene umjetne inteligencije u sustavima, a idući zadatak te skupine stručnjaka izrada je investicijskih i policy preporuka.

Ulaganja

Dio je to šireg europskog pristupa umjetnoj inteligenciji koji je Bruxelles pokrenuo lani, a povećane su ujedno i godišnje investicije za 70 posto kroz istraživačko-inovacijski program Obzor 2020., što će ukupno dosegnuti 1,5 milijardi eura u razdoblju od 2018. do 2020. U privatnim investicijama u tom području Europa trenutno znatno zaostaje za SAD-om i vodećim azijskim zemljama. Hoće li koordinirani europski pristup to promijeniti, vidjet ćemo. Svakako, eksperti bi da Europa postane lider u vrhunskoj, sigurnoj i etičnoj AI tehnologiji.

- Primjene umjetne inteligencije već su brojne u mnogim sektorima, od energetskih i proizvodnih sustava, preko edukacije, do financijskih usluga, a već nam pomaže i u svakodnevnom životu, od preporučivanja restorana i pjesama do prevođenja tekstova. Neizbrojivi su primjeri mogućih primjena umjetne inteligencije koje je sada teško i zamisliti, a pojavljivat će se u sljedećim desetljećima. Ukratko, umjetna će inteligencija snažno transformirati gospodarstvo i društvo te svakodnevne živote ljudi, slično kao što su to učinili parni stroj i električna energija u prošlosti - naglašava stručnjak za robotiku i profesor sa zagrebačkog Fakulteta elektrotehnike i računarstva Ivan Petrović.

Dodatni angažman

Iako donosi i rizike, Petrović smatra da, u cjelini gledano, prednosti umjetne inteligencije značajno nadmašuju njezine rizike te da čovječanstvo mora pronaći način kako maksimizirati prednosti i minimizirati rizike. Mnoge razvijene države već su donijele svoje strategije razvoja umjetne inteligencije, primjerice SAD, Kina, Njemačka i druge, pa su se pritom osvrnule i na etička načela razvoja i primjene umjetne inteligencije, ali smjernice koje je izradila tzv. Visoka stručna skupina Europske komisije za umjetnu inteligenciju nesporno su najkonkretniji dokument, ocjenjuje.

- Iako su primarno namijenjene dionicima u Europi, bilo bi vrlo korisno da potaknu raspravu o izradi jedinstvenih etičkih smjernica za umjetnu inteligenciju na globalnoj razini. U suprotnom bi se moglo dogoditi da negativno utječu na konkurentnost Europe u području umjetne inteligencije na globalnom tržištu - komentira Petrović. Naime, kako pojašnjava bojazni, ako Kina i SAD ne budu imali sličan pristup, te bi smjernice mogle postati ograničavajući čimbenik jer postavljaju ograničenja koja zahtijevaju dodatni angažman kompanija u EU koje razvijaju sustave umjetne inteligencije. - Iz povijesti znamo da su Sjedinjene Države sklone takve sustave primjenjivati u vojne svrhe, što može biti etički upitno, a Kina, s obzirom na to da nije demokratski sustav, može uvesti primjenu umjetne inteligencije bez da se u nekim područjima obzire na mišljenje javnosti - objašnjava Petrović.

Danica Kragić, robotičarka koja predaje na švedskom Kraljevskom institutu za tehnologiju i vodi nacionalni projekt za razvoj znanstvenog istraživanja u području umjetne inteligencije koji financira zaklada Knut i Alice Wallen­berg, napominje da članovi skupine za izradu smjernica predstavljaju sveučilišnu zajednicu, industriju i društvo, a sam nacrt ocjenjuje vrlo dobrim. - To olakšava svim državama kako da se fokusiraju i vode diskusiju o primjeni umjetne inteligencije - kaže te dodaje da zasad Švedska nema sličan dokument. Što joj govori iskustvo iz prakse, pitamo je. - Za sada je najveći problem što političari koji bi trebali donijeti zakone ne shvaćaju koliko je umjetna inteligencija bitna i kako treba surađivati sa stručnjacima da bi se smjernice i zakoni mogli uskladiti na najbolji mogući način - odgovara.

Koji su, općenito, kritični razlozi za zabrinutost kad je u pitanju razvoj i primjena umjetne inteligencije? U smjernicama se navodi nekoliko područja. Primjerice, identifikaciju pojedinaca bez njihova pristanka, odnosno automatsku identifikaciju, što je moguće kroz prepoznavanje lica ili druge nedobrovoljne metode koje koriste biometrijske podatke. Drugo problematično područje tiče se, recimo, prikrivanja sustava umjetne inteligencije, odnosno naglašava se da kompanije koje razvijaju sustave umjetne inteligencije moraju osigurati da ljudi uvijek budu svjesni toga da komuniciraju sa strojem, odnosno umjetnom inteligencijom.

Autori smjernica ukazuju i na zabrinutosti zbog razvoja smrtonosnih autonomnih oružanih sustava (Lethal Autonomous Weapon Systems). Naglašavaju da ljudi moraju ostati odgovorni za žrtve takvog oružja. “Trenutno se ne zna koliko zemalja i industrija istražuje i razvija smrtonosne autonomne oružane sustave u rasponu od raketa koje mogu birati ciljeve do strojeva koji imaju kognitivne vještine i mogu, bez ljudske intervencije, odlučiti s kime će se, kada i gdje boriti”, navodi se u smjernicama. To može voditi, dodaje se, dosad neviđenoj i nekontroliranoj utrci u naoružanju te postavlja fundamentalna etička pitanja.

Scenariji

Stručnjaci su razmatrali i scenarije koji gledaju u dalju budućnost te nalikuju filmovima znanstvene fantastike - razvoj umjetne svijesti (primjerice, sustave umjetne inteligencije sa subjektivnim iskustvima) ili čak samopoboljšavajuće sustave umjetne inteligencije koji mogu razviti novu generaciju... Smatraju da treba uzeti u obzir i razne dugoročne rizike te ih minimizirati.

- Još od vremena ‘Odiseje u svemiru’ i znanstveno-fantastičnih romana Isaaca Asimova i Arthura Clarkea iz sedamdesetih godina datira ideja pobune umjetne inteligencije i robota, a u novije vrijeme sve se češće postavljaju i etička pitanja vezana za umjetnu inteligenciju - komentira smjernice Dražen Oreščanin, suosnivač i direktor domaće IT kompanije Poslovna inteligencija. Dodaje kako mnoge stručne organizacije definiraju modele upravljanja i razvoja umjetne inteligencije u poslovanju i životu općenito, a i sam je uključen u radnu skupinu TM Foruma, koje su vrlo detaljne i specifične. - Europski dokument je, s druge strane, više općenite prirode, ali s vrlo detaljnim smjernicama za operacionalizaciju, pa mislim da su krenuli u dobrom pravcu - poručuje Oreščanin.