Tvrtka Character.AI - koja je vrlo popularna među tinejdžerima i u Hrvatskoj - najavila je danas kako će zabraniti korištenje njihovih chatbotova mlađima od 18 godina zbog sve većih pritisaka vezanih uz sigurnost djece i mladih.
Za neupućene - Character.AI je model umjetne inteligencije koji omogućuje korisnicima da "razgovaraju" sa svima od Aristotela preko "korejske djevojke" pa sve do samoga Boga (ili preciznije rečeno s njihovim digitalnim imitatorima na nekom nizu računalnih servera u Irskoj ili Montani).
Novo pravilo stupit će na snagu 25. studenoga, i to tako što će Character.AI "identificirati" koji su to točno korisnici maloljetni i isprva im limitirati pristup chatbotovima, a potom ga potpuno ukinuti, prenosi New York Times (NYT).
Neki prosječni cinik na to bi rekao - sretno s time i javite kako je prošlo, jer koliko je nama poznato još se nije rodila društvena mreža ili web stranica koja je uspjela blokirati tinejdžere u namjeri da se na nju infiltriraju.
Naravno, ova AI kompanija ne radi ovo jer ih je pogodio iznenadni napadaj altruizma, nego zato što su pojedina djeca i tinejdžeri nakon razgovora s njihovim botovima doživljavali tako teške psihičke krize da su neke dovele i do toga da si oduzmu život.
"Poduzimamo vrlo hrabar korak tako što ćemo korisnicima koji su tinejdžeri reći da chatbotovi nisu dobar način zabave, ali da postoje mnogo bolji načini da im služe", rekao je za NYT CEO tvrtke Karandeep Anand.
Karandeep, naravno, nije blesav čovjek i dobro zna da njihovi botovi - koje se marketinški često naziva i "AI prijateljima" - mogu imati negativne efekte na mentalno zdravlje korisnika.
Obitelj Sewella Setzera III. prošle je godine tužila Character.AI nakon što se taj 14-godišnjak s Floride ubio nakon kontinuiranih razgovora s botovima te tvrtke. Obitelj kompaniju smatra odgovornom za njegovu smrt.
Taj je slučaj postao amblematski primjer za problem emocionalnog povezivanja ljudi s AI botovima, što može imati vrlo opasne posljedice. Character.AI se u međuvremenu našao na meti brojnih sličnih tužbi.
Pod povećalom su se našle i druge AI tvrtke kao što je kreator ChatGPT-ja OpenAI, koja također ima niz sličnih chatbotova u svom portfelju, a poglavito u slučajevima kada djeca i tinejdžeri počnu voditi seksualno eksplicitne razgovore s tim robotima.
U rujnu je OpenAI najavio uvođenje alata koji bi njihove chatbotove trebali učiniti sigurnijima, među kojima bi bili i alati za roditeljski nadzor. Uključili su se i američki zakonodavci, koji su počeli provoditi istrage i predlagati zakonske prijedloge za zaštitu djece od AI botova.
Recimo, kalifornijski guverner Gavin Newsom potpisao je zakon koji stupa na snagu 1. siječnja, prema kojemu AI kompanije moraju imati zaštitne mjere na chatbotovima.
Što se tiče tužbi s kojima se suočava Character.AI, CEO Anand nije za NYT rekao ništa, nego je samo piarovski poručio da "žele učiniti mnogo više od onoga što regulativa nalaže i da žele postaviti sigurnosne standarde za cijelu industriju".
Character.AI su, inače, 2021. godine osnovali Noam Shazeer i Daniel De Freitas, dva bivša Googleova inženjera. Vrlo brzo su privukli investicije vrijedne 200 milijuna dolara, a prošle godine Google je pristao platiti 3 milijarde dolara za licenciranje njihove tehnologije. Shazeer i De Freitas su se potom vratili u Google.
Character.AI omogućuje ljudima da kreiraju i dijele AI likove, koji mogu biti što god vam padne na pamet, od likova iz animea, preko ljutih ili benevolentnih šefova, pa sve do božanstava ili likova iz bajki.
Sve to reklamirano je kao zabava, premda bilo tko može stvoriti AI personu koja imitira intimnu vezu. Sve donedavno tvrtka nije verificirala dob korisnika.
Character.AI ima oko 20 milijuna mjesečnih korisnika, od čega je oko 10 posto dragovoljno prijavilo kako su maloljetni.
Prema novim pravilima, svima koji su mlađi od 18 godina od 25. studenoga bit će nametnut limit od dva sata dnevno na korištenje servisa. Od toga dana maloljetnici neće više moći kreirati nove botove niti chatati s postojećima, nego će samo moći čitati prethodne razgovore.
Kako će tvrtka detektirati maloljetnike? Tako što će "analizirati" razgovore i interakcije na platformi i koristiti informacije s povezanih društvenih mreža. Kako smo već spomenuli - sretno s time…
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....