Djeca imaju novi AI alat za zaštitu na internetu: ‘Trendovi porasta broja zlostavljanja, prevara i ucjena su zabrinjavajući‘

Djeca i mladi koji se nađu zbunjeni pred opasnostima koje se potencijalno skrivaju u današnjem internetu od sada u Hrvatskoj imaju novog virtualnog "prijatelja" kojemu se mogu obratiti: radi se o chatbotu #BOB (#BoljiOnline Bot), koji je uspostavio Centar za sigurniji internet u suradnji s A1 Hrvatska i tvrtkom Delta Reality.

Ovaj alat pogonjen umjetnom inteligencijom (AI) predstavljen je na događaju "Uloga modernih alata u sigurnosti djece" povodom obilježavanja Dana sigurnijeg interneta. #BOB je baziran na LLM modelu (Large Language Model), a njegove su ključne prednosti dostupnost i anonimnost.

Kako objašnjavaju kreatori chatbota, LLM je veliki jezični model temeljen na dubokom učenju i "transformerskoj arhitekturi", treniran na ogromnim količinama podataka kako bi "razumio i generirao ljudski jezik na prirodan način".

Sadržaj na temelju kojega #BOB pruža odgovore sastavili su stručnjaci iz Centra za sigurniji internet, a namijenjen je djeci, roditeljima i stručnjacima te dostupan na web stranicama #BoljiOnline i www.csi.hr.

"CIlj nam je pružiti alat koji će mladima, roditeljima i stručnjacima omogućiti brži i jednostavniji pristup ključnim informacijama o sigurnosti na internetu. Chatbot #BOB osmišljen je tako da na jednostavan i jasan način pruži smjernice kako postupiti u situacijama kao što su elektroničko nasilje, krađa identiteta ili prijetnje na internetu. Nadamo se da će ga korisnici prepoznati kao pouzdanog asistenta u digitalnom prostoru", kazao je je Tomislav Ramljak, voditelj Centra za sigurniji internet.

Iva Ančić, rukovoditeljica brenda, marketinških komunikacija i digitalnog poslovanja u A1 Hrvatska, istaknula je značaj digitalnih rješenja u edukaciji o sigurnosti na internetu: "Našom platformom #BoljiOnline kontinuirano pružamo podršku edukaciji djece i roditelja o sigurnosti u digitalnom okruženju. Uvođenjem chatbota #BOB podižemo tu inicijativu na višu razinu pružajući brz, anoniman i dostupan način dobivanja odgovora na važna pitanja vezana uz internetsku sigurnost."

Helenca Pirnat Dragičević

Ustupljena Fotografija/

Centar za sigurniji internet objavio je i kako je u protekloj godini putem besplatne i anonimne linije za pomoć dobio 993 upita. Premda to ne djeluje kao osobito velika apsolutna vrijednost, radi se o čak 500 upita više nego u godini prije, odnosno 110-postotnom porastu.

Primjeri zbog kojih djeca, mladi, stručnjaci i roditelji traže pomoć uključuju situacije u kojima su dijeljene snimke ili fotografije koje su žrtve ranije objavile, a koje su potom iskorištene za izrugivanje ili stvaranje lažnih profila.

Osobne informacije i govor mržnje su dijeljeni i na platformama poput TikToka i Instagrama. Jedan od primjera uključuje i WhatsApp grupe s porukom "dodaj svakoga kog znaš", u kojoj učenici razmjenjuju uvredljive poruke ili pjesme usmjerene protiv svojih vršnjaka i pozivaju velik broj vršnjaka da se priključe toj grupi.

"U skladu sa zabrinjavajućim trendom, zabilježeno je više slučajeva nesporazumnog dijeljenja seksualno eksplicitnog sadržaja koji uključuju maloljetnike, a u zadnjem tromjesječju 2024. posebno je odjeknuo opasni online izazov ‘Superman Challenge‘, koji je doveo do ozljeda poput prijeloma ruku kod nekoliko maloljetnika u Hrvatskoj”, navode iz Centra.

Zabrinjava i sve veća prisutnost "phishing" prevara, kao i prisutnost hakiranih računa. Poseban izazov predstavljaju prijetnje i ucjene, osobito kod mlađih korisnika platformi kao što je Roblox, gdje su prisutni strahovi od hakiranja profila te izloženost djece neprimjerenom sadržaju, kao i mogući kontakt s odraslim nepoznatim osobama.

Uz to, roditelji se javljaju sa situacijama u kojima njihova djeca sama dijele seksualno eksplicitne fotografije putem društvenih mreža ili aplikacija za dopisivanje.

"U tim slučajevima roditelji traže savjetovanje za dijete i podršku kako bi naučili strategije za prevenciju sličnih situacija u budućnosti. Ovi slučajevi ukazuju na potrebu za širim društvenim dijalogom o digitalnoj pismenosti, odgovornom ponašanju i podršci roditeljima u ovim izazovnim situacijama”, kažu stručnjaci iz Centra.