Hrvatski startup airt, jedan od Novac.hr TOP 25 startupa za pratiti u 2022. godini, predao je drugi zahtjev za patent. Njihova tehnologija neuronskim mrežama donosi objašnjivost rezultata, odnosno pretvara ih iz takozvanih crnih kutija u automate čije je funkcioniranje moguće objasniti. Upravo je to ključno kako bi se primjena neuronskih mreža mogla proširiti u poslovnom svijetu, posebno vrlo reguliranim industrijama.
Hajdi Ćenan, suosnivačica i direktorica airta tumači problem kojim su se bavili. Navodi da ako su svi ostali parametri jednaki, veća kuća bi, primjerice, trebala imati veću vrijednost od manje ili bi banka klijentu ili klijentici s većim primanjima trebala odobriti veći kredit.
- Ali danas ne postoje adekvatna rješenja koja osiguravaju da se modeli dubokog učenja pridržavaju tih svojstava tako da možemo garantirati da su odluke temeljene na tim modelima legitimne i da se možemo slijepo osloniti na njih, dapače. Iz tog razloga, iako su tehnike dubokog učenja po rezultatima superiorne mnogim drugim tehnikama, mnogi biznisi ih nisu spremni upotrijebiti i upogoniti jer ne mogu objasniti što je točno utjecalo na krajnji rezultat i zašto je moguće da rezultat bude drukčiji za dvije osobe potpuno istog profila - kaže Ćenan.
U airtu su pronašli način kako unijeti objašnjivost u duboko učenje i osigurati konzistentnost rezultata bez gubitka efikasnosti i točnosti koje donosi korištenje neuronskih mreža.
Davor Runje, suosnivač startupa airt kaže da se intenzivno bave istraživanjem i razvijaju vlastite pristupe i tehnike, uključujući i ovu, jer sve više tvrtki, osim točnosti modela, traži objašnjivost dubokog učenja.
- Uspjeli smo na jednostavan način riješiti problem koji u literaturi postoji već 30 godina, a koji osigurava monotonost modela dubokog učenja, odnosno kada, ovisno o ulaznom parametru, funkcija može ili samo rasti ili samo padati - navodi Runje.
Ističe da rješenja koja su danas dostupna i pokušavaju osigurati takav ishod su izuzetno kompleksna te zbog toga neefikasna.
- Koristi se duboke 'lattice' mreže koje je razvio Google, a kada ih usporedimo s našim rješenjem, na standardnim testovima dobivamo veću točnost s barem 10 puta manje parametara, što izuzetno utječe i na ukupno korištenje računalnih resursa potrebnih za treniranje modela - kaže Runje.
Dodaje da je fokus airta na poslovne podatke rezultirao nizom uvida i inovacija koje nisu primjenjive u do sada najrazvijenijim domenama dubokog učenja - vizualnim i jezičnim - ali su se pokazali ključnima u poslovnim primjenama.
- Poslovni modeli bitno su različiti od vizualnih i jezičnih, prije svega zbog dinamike kojom se mijenja situacija na tržištu, a manje zbog razlike između strukturiranih i nestrukturiranih podataka. Sve naše inovacije uzimaju vrijeme kao dimenziju podataka koja zahtijeva posebnu brigu i specijalizirana rješenja i to se pokazalo kao vrlo plodna linija istraživanja i razvoja - kaže Runje.
Patnet su inicijalno prijavili u US Patent and Trademark Officeu (USPTO), a zatim i u EU.
Hajdi Ćenan dodaje da su u srpnju prošle godine predali zahtjev za patent za inovirane tehnike dubokog učenja za predviđanje ponašanja iz strukturiranih podataka kakvi se najčešće koriste u poslovnom svijetu.
Sad su predali zahtjev za patent koji se fokusirao na objašnjivosti (explainability) u neuronskim mrežama.
- Usput su usporedili tehnike koje su izumili sa sličnim sustavom koji je razvio Google i ističe da su rezultati - bolji - kaže Ćenan.
Pojašnjava da startup airt gradi platformu za izradu prediktivnih modela na strukturiranim podacima kakvi, primjerice, postoje u bankama ili kod pružatelja komunikacijskih usluga, i za obradu tih podataka interno su razvili vlastite tehnike dubokog učenja inspirirane metodologijama koja se koriste u obradi jezika, tzv. NLP/Natural Language Processing.
- Iskustvo rada na konkretnim problemima iz financijskog sektora upotrijebili smo kako bi izgradili potpuno automatiziranu platformu za pripremu transakcijskih podataka te automatiziranu izgradnju modela za konkretne poslovne probleme - kaže Čenan.
Dodaje da je jedan od poznatih problema dubokog učenja to da ono radi na principu takozvane crne kutije, odnosno, ne zna se kako točno algoritmi dolaze do zaključaka i preporuka na temelju kojih se posljedično donose poslovne odluke.
- Drugim riječima, iako se zna koji parametri te kako bi ponašanje tih parametara - rast ili pad - trebalo utjecati na krajnji rezultat, u modelima dubokog učenja nema garancije da će se to zaista tako i dogoditi, a naše rješenje to mijenja - zaključuje Ćenan.