Tvrtke poput OpenAI-ja, Googlea, Mete i Microsofta sve više ulažu u razvoj memorijskih sposobnosti svojih sustava. Ideja je jednostavna: što više chatbot zna o korisniku, to bolje može prilagoditi svoje odgovore, ali i dulje zadržati korisnika unutar svojeg ekosustava, zaključuje Financial Times.
Poboljšanja uključuju širenje kontekstualnog kapaciteta (koliko informacija model može obraditi i zapamtiti u jednoj interakciji) i tehnike poput retrieval-augmented generation, koje omogućuju dohvaćanje podataka iz vanjskih izvora. Time se korisničko iskustvo čini korisnijim i personaliziranijim.
Primjerice, AI može zapamtiti da je korisnik vegetarijanac te će, pri preporukama restorana ili recepata, ponuditi odgovarajuće opcije. S vremenom, ti agenti stvaraju korisnički profil koji omogućuje „inteligentnije“ odgovore.
Google je u ožujku proširio memorijske mogućnosti svog Geminija i na korisnikovu povijest pretraživanja. To vrijedi samo ako korisnik to izričito dozvoli, a Google planira tu funkcionalnost u budućnosti proširiti i na druge aplikacije.
„Kao i kod osobnog asistenta, što vas bolje poznaje, to bolje može pomoći“, objasnio je Michael Siliski iz Google DeepMinda.
OpenAI-jev ChatGPT i Metin AI u WhatsAppu i Messengeru već sada mogu povlačiti podatke iz prethodnih razgovora, a ne samo iz trenutačne sesije. Korisnici zasad imaju kontrolu; mogu pregledati i brisati sjećanja, a upozoreni su kada model pohranjuje informacije.
„Memorija omogućuje da ChatGPT postane korisniji kako vrijeme prolazi jer odgovori postaju sve relevantniji“, navode iz OpenAI-ja. „Korisnici imaju potpunu kontrolu – mogu u svakom trenutku provjeriti, izmijeniti ili isključiti memoriju.“
Microsoft planira otići korak dalje: koristi podatke iz e-mailova, kalendara i internih dokumenata kako bi njegovi poslovni AI sustavi imali širi uvid u potrebe korisnika. Prošlog mjeseca pokrenuo je testiranje značajke Recall, koja automatski snima zaslon korisnika. Mogućnost uključivanja je opcionalna, a korisnik može pauzirati ili isključiti snimanje u svakom trenutku.
Upravo je ta funkcionalnost izazvala burne reakcije, posebno među stručnjacima za kibernetičku sigurnost. Neki su je nazvali „jezivom“, a Microsoft je zbog toga više puta odgodio lansiranje.
Komercijalizacija memorije
Ključni trag koji bi mogao ukazati kojim putem bi umjetna inteligencija mogla krenuti treba tražiti u ambicijama korporacija koje jezične modele vide kao veliki izvor potencijalne zarade. Mark Zuckerberg već je najavio da će Metin chatbot postati platforma za preporuke proizvoda i oglašavanje.
I OpenAI je u travnju unaprijedio mogućnosti online kupnje unutar ChatGPT-a, nudeći prikaz proizvoda i recenzija. Iako trenutačno ne koristi afilijacijske poveznice, analitičari očekuju da će i taj model uskoro biti monetiziran.
Kako se sposobnosti dugoročnog pamćenja šire, tako raste i zabrinutost regulatora i stručnjaka za zaštitu privatnosti. Strahuje se da bi previše informacija o korisniku moglo poslužiti za manipulaciju, bilo kroz oglašavanje ili ideološki utjecaj.
Osim etičkih pitanja, memorija sa sobom nosi i tehničke izazove. Modeli ponekad „haluciniraju“, odnosno izmišljaju informacije, ili pate od tzv. „memorijskog pomaka“, kada se kontradiktorni ili zastarjeli podaci zadrže u bazi, smanjujući točnost odgovora. Valja podsjetiti i kako se OpenAI nedavno ispričao zbog pretjerano laskave i popustljive verzije GPT-4o modela, koji je naknadno povučen.
„Što sustav više zna o vama, veći je rizik da se to znanje iskoristi u negativne svrhe – da vas se nagovori da nešto kupite ili da vas se uvjeri u određena uvjerenja“, upozorava prof. Maes s MIT-a. „Zato moramo početi ozbiljno razmišljati o motivima tvrtki koje nude ove usluge.“
Komentari
0