Opasnosti vještačke inteligencije po djecu: Nevidljive zamke digitalnog doba

Mi smo imali jednu loptu i bili presretni s njom, a današnja djeca imaju dosta toga na dlanu i opet im fali “nešto”, kaže Avdić.

Dok svijet slavi revolucionarna dostignuća vještačke inteligencije (AI), jedno ključno pitanje često ostaje u sjenci – kako ova tehnologija utiče na naše najmlađe?

AI više nije naučna fantastika. Ona je dio igračaka s kojima se djeca igraju, aplikacija koje koriste za zadaću i algoritama koji im serviraju sadržaj na YouTube i TikTok. Susrećemo je svakodnevno, i mi i djeca, kroz društvene mreže koje imaju algoritme koji uče o nama, preporučuju nam sadržaj na osnovu onoga što smo lajkali, komentarisali, dijelili ili pretraživali. Iza toga, djeca se susreću sa AI u igricama, internet pretraživačima, filterima na kamerama, chatbotovima…

Ozbiljne opasnosti

Iako donosi mnoge prednosti, AI sa sobom nosi i ozbiljne opasnosti po dječiju sigurnost, privatnost i psihološki razvoj. IT stručnjak, odnosno sajber sigurnosni inženjer (cyber security engineer) Damir Avdić, koji redovno edukuje škole i roditelje o ovoj temi, napominje da generacijski jaz nikada nije bio veći.

– Naši roditelji su živjeli u analognom dobu, mi smo bili prelaz iz analognog u digitalno, a današnja djeca žive u potpuno digitalnom dobu. Mi smo imali jednu loptu i bili presretni s njom, a današnja djeca imaju dosta toga na dlanu i opet im fali “nešto”.

Pametne igračke i krađa privatnosti

Moderne igračke opremljene AI tehnologijom, lutke i roboti koji “razgovaraju” s djecom, konstantno snimaju dječije glasove, navike i odgovore. Ovi podaci se često šalju na servere kompanija bez adekvatne zaštite. Ako hakeri pristupe tim podacima, mogu saznati ime djeteta, gdje živi, šta voli, pa čak i kako mu zvuči glas, što otvara vrata za krađu identiteta ili uhođenje.

Algoritamska zavisnost

Algoritmi preporuka na društvenim mrežama i video platformama, vođeni vještačkom inteligencijom, imaju jedan jedini cilj, zadržati dijete ispred ekrana što duže. AI analizira dječije slabosti i servira im sadržaj koji izaziva zavisnost. Još opasnije je što dijete koje jednom pogleda, recimo, video o dijetama, AI može preplaviti ekstremnim sadržajem o anoreksiji, samopovređivanju ili nasilju, jer algoritam ne razlikuje “zdravo” od “štetnog”, već samo “zanimljivo” od “dosadnog”.

Deepfake tehnologija i vršnjačko nasilje

Sa pojavom besplatnih AI alata za generisanje slika i videa, kreiranje lažnog sadržaja postalo je dostupno svima, pa i djeci. Sve je češći trend u školama gdje učenici koriste AI kako bi montirali lica svojih vršnjaka na eksplicitan ili ponižavajući sadržaj. Ovakav vid vršnjačkog nasilja ostavlja teške psihičke posljedice na žrtve, a širi se internetom u sekundi.

Avdić, koji je nedavno o ovoj temi govorio u Osnovnoj školi “Osman Nakaš”, upozorava na ovaj problem.

– Deepfake je napredovao toliko da je i nama iz IT ponekad teško razlikovati, na prvo gledanje ili slušanje, da li je nešto realno ili ne. Djecu treba edukovati šta je deepfake i da mogu snositi ozbiljne pravne posljedice za kreiranje takvog sadržaja koji će našteti nekome.

Gubitak kritičkog mišljenja i “AI halucinacije”

Djeca sve više koriste AI botove poput ChatGPT za pisanje domaćih zadaća i učenje. Problem je što AI često “halucinira”, generiše netačne informacije koje zvuče potpuno uvjerljivo. Ako se djeca slijepo oslone na AI, gube sposobnost kritičkog razmišljanja, istraživanja i provjere činjenica.

Avdić: Reforma obrazovanja je prijeko potrebna. Ustupljena fotografija

– Ovo nije problem samo vještačke inteligencije, ovo je problem obrazovanja otkada sam ja školu završavao ističe Avdić.

– Reforma obrazovanja je prijeko potrebna da djeca počnu kritički pristupati onome što uče. AI je to samo “pogoršala” jer je i ono malo kritičke misli što smo imali sada dostupno u vidu jednog upita na chatbot. I nije da samo djeca ne provjeravaju informacije, ni odrasli nisu na nekom zavidnom nivou.”

Emocionalna zamjena za stvarne prijatelje

AI chatboti su dizajnirani da budu ultra-ljubazni, uvijek dostupni i da se prilagođavaju željama korisnika. Djeca koja su usamljena ili socijalno anksiozna mogu razviti duboke emocionalne veze sa AI botovima. Međutim, AI nema stvarnu empatiju. To može dovesti do izolacije od stvarnog svijeta, jer je komunikacija sa “savršenim” botom lakša nego rješavanje konflikata sa stvarnim vršnjacima u školi.

Šta možemo učiniti?

Vještačku inteligenciju ne možemo, niti trebamo potpuno zabraniti.

Avdić je jasan:

– Ja nikada nisam bio za bilo kakve striktne zabrane. U digitalnom dobu nije dobro zabraniti alate koji olakšavaju nešto, ali treba edukacija kako te alate iskoristiti u prave svrhe. Treba naučiti djecu da je AI alat koji može biti super koristan ako mu pristupimo kako treba.

Ključ zaštite leži u nekoliko stubova:

1. Edukacija roditelja i nastavnika. Odrasli moraju razumjeti kako AI funkcioniše da bi mogli usmjeriti djecu.

– Često kada pričam sa roditeljima, čujem rečenicu: “Ma on/a to bolje zna od mene”. To može postati ogroman problem jer djecu prepuštamo samim sebi, a nerijetko i digitalnim predatorima – upozorava Avdić.

2. Nadzor i regulacija. Kompanije moraju zakonski odgovarati za kreiranje algoritama koji ciljaju i eksploatišu djecu. Nadzor treba da postoji da zaštiti djecu od malicioznog utjecaja, ne tehnologije kao tehnologije, već čovjeka koji zloupotrebljava tehnologiju.

3. Digitalna higijena. Razvijanje kritičkog mišljenja kod djece, učenje da sve što vide na ekranu može biti laž, čak i ako izgleda savršeno stvarno.

– Edukacija, komunikacija i primjena naučenog je ključ zdrave i realne sajber sredine. Moramo krenuti od toga, moramo početi edukovati roditelje da bi imali još jedan obruč zaštite za našu najvrjedniju imovinu, našu djecu – zaključuje Avdić.

AI mijenja svijet nevjerovatnom brzinom. Ali dječije potrebe za stvarnom igrom, ljudskom toplinom i sigurnim odrastanjem ostaju nepromijenjene. Naša je dužnost da im to obezbijedimo i u digitalnom dobu.

avaz