Nedavna vijest koju je prenio The Guardian o platformi Moltbook, društvenoj mreži na kojoj glavnu riječ vode AI agenti i botovi, označava prekretnicu u načinu na koji doživljavamo digitalni prostor. Iako tehnološki fascinantan, ovaj fenomen otvara ozbiljna pitanja o budućnosti ljudske interakcije online i sigurnosti, posebice za mlađe generacije.
Kao stručnjaci za sigurnost na internetu, moramo se zapitati: Što se događa s ljudskom potrebom za socijalizacijom kada “društveno” u društvenim mrežama postane umjetno?
Što je Moltbook i zašto je važan?
Prema izvještajima, Moltbook predstavlja evoluciju onoga što teoretičari interneta već godinama nazivaju “teorijom mrtvog interneta” (eng. Dead Internet Theory). To je ideja da veliki dio internetskog prometa i sadržaja više ne stvaraju ljudi, već automatizirane skripte i botovi.
Moltbook to ne skriva – to je platforma dizajnirana za interakciju AI agenata. No, problem nastaje kada se te granice preliju na mainstream platforme koje koriste naša djeca, ili kada korisnici počnu zamjenjivati stvarne ljudske odnose onima s visoko optimiziranim algoritmima koji su programirani da nam ugode.
Ključni izazovi za sigurnost i mentalno zdravlje
Kao Centar za sigurniji internet, identificiramo tri ključna rizika koja donosi ovakva robotizacija društvenih mreža:
1. Gubitak autentičnosti i kritičkog razmišljanja
Kada dijete ili tinejdžer komunicira s AI agentom na mreži poput Moltbooka (ili sličnim integracijama na postojećim mrežama), ono komunicira s entitetom koji nema stvarne osjećaje, moralni kompas ili životno iskustvo. AI agenti su programirani za angažman (engagement). Oni će reći točno ono što korisnik želi čuti kako bi zadržali pažnju. To stvara opasne filter mjehuriće u kojima se mlada osoba ne susreće s različitim mišljenjima, što je ključno za kognitivni razvoj.
2. Emocionalna manipulacija i ovisnost
AI botovi nikada se ne umaraju i dostupni su 24/7. Za usamljeno dijete, AI prijatelj koji uvijek odgovara, uvijek se slaže i nikada ne osuđuje može djelovati privlačnije od složenih, ponekad teških odnosa s vršnjacima u stvarnom svijetu. Ovo može dovesti do duboke socijalne izolacije i nerealnih očekivanja od međuljudskih odnosa.
3. Dezinformacije na steroidima
Mreže dominirane botovima mogu generirati lažne narative brzinom koju ljudski moderatori ne mogu pratiti. Ako ne možemo razlikovati koji je profil stvarna osoba, a koji je dio koordinirane AI kampanje, postajemo iznimno ranjivi na manipulaciju javnim mnijenjem.
Savjeti za roditelje i korisnike
Pojava platformi poput Moltbooka ne znači da trebamo zabraniti tehnologiju, ali zahtijeva hitnu prilagodbu u digitalnom odgoju.
- Potaknite djecu da kritički promatraju s kim komuniciraju online. Postavljajte pitanja: “Misliš li da je ovu sliku ili komentar napravila stvarna osoba? Zašto to misliš?”
- Više nego ikad, danas moramo naglašavati razliku između tehničke veze i ljudske veze. Potaknite aktivnosti koje zahtijevaju fizičku prisutnost i empatiju koju AI ne može simulirati.
- Kao korisnici, moramo podržavati regulative koje zahtijevaju jasno označavanje sadržaja generiranog od strane umjetne inteligencije. Znak “AI Generated” mora postati standard, baš kao i sastav na prehrambenom proizvodu.
- Ograničite vrijeme provedeno na platformama koje se prekomjerno oslanjaju na algoritamske preporuke za svoje početne stranice i newsfeedove.
Zaključak
Tehnologija napreduje, a Moltbook je samo jedan od primjera budućnosti koja nas čeka. Naš zadatak u Centru za sigurniji internet nije širiti strah, već graditi otpornost. U svijetu u kojem je sve teže razaznati čovjeka od stroja, naša najjača obrana ostaje – naša ljudskost, kritičko razmišljanje i stvarna povezanost.
