Australski povjerenik za e-sigurnost poslao je pravne obavijesti Googleu, Meti, Telegramu, WhatsAppu, Redditu i X-u (prije poznatom kao Twitter) tražeći od njih da pokažu što poduzimaju kako bi zaštitili Australce od online ekstremizma. Šest tvrtki ima 49 dana za odgovor.

Obavijest je izdana u trenutku kada vlade sve više pooštravaju nadzor nad velikim tehnološkim kompanijama kako bi se riješili online štetnih sadržaja poput materijala koji prikazuje seksualno zlostavljanje djece ili maltretiranje.

Borba protiv online ekstremizma predstavlja jedinstvene izazove koji se razlikuju od ostalih problema moderiranja sadržaja. Regulatori koji žele uspostaviti efikasne i značajne promjene moraju uzeti u obzir što nam istraživanja pokazuju o ekstremizmu i terorizmu.

Ekstremisti su svuda Online ekstremizam i terorizam su već neko vrijeme ozbiljne brige. Jedan od najupečatljivijih primjera bio je teroristički napad u Christchurchu 2019. godine na dvije džamije u Aotearoi Novom Zelandu, koji je bio emitiran uživo na Facebooku. To je dovelo do "Christchurch poziva" na akciju, usmjerenog na suzbijanje ekstremizma kroz suradnju između zemalja i tehnoloških kompanija.

No, unatoč takvim naporima, ekstremisti i dalje koriste online platforme za umrežavanje i koordinaciju, regrutaciju i radikalizaciju, prijenos znanja, financiranje i mobilizaciju za akciju.

Zapravo, ekstremisti koriste istu online infrastrukturu kao i svakodnevni korisnici: tržišta, platforme za upoznavanje, igraće stranice, stranice za streaming glazbe i društvene mreže. Stoga, sva regulativa za suzbijanje ekstremizma mora također uzeti u obzir prava redovitih korisnika.

Uspon 'swarmcastinga' Tehnološke kompanije su odgovorile inicijativama poput Globalnog internetskog foruma za suzbijanje terorizma. Forum dijeli informacije o terorističkom online sadržaju među svojim članovima (kao što su Facebook, Microsoft, YouTube, X i drugi) kako bi ga mogli ukloniti sa svojih platformi. Ovi pristupi ciljaju na automatsko prepoznavanje i uklanjanje terorističkog ili ekstremističkog sadržaja.

Međutim, politika moderiranja usmjerena na pojedinačne komade sadržaja na pojedinačnim platformama ne uspijeva obuhvatiti mnogo onoga što je vani.

Terorističke skupine često koriste pristup "swarmcasting" na više platformi, koristeći 700 ili više platformi za distribuciju svog sadržaja.

Swarmcasting uključuje korištenje "svjetionika" na glavnim platformama poput Facebooka, Twittera i Telegrama za usmjeravanje ljudi na lokacije s terorističkim materijalom. To može biti hiperveza na blog post na web stranici poput Wordpressa ili Tumblra koja zatim sadrži daljnje poveznice do sadržaja, možda hostanog na Google Driveu, JustPaste.It, BitChuteu i drugim mjestima gdje korisnici mogu preuzeti sadržaj.

Dakle, iako se ekstremistički sadržaj može označiti i ukloniti s društvenih mreža, zahvaljujući tehnici swarmcastinga, ostaje dostupan online. Ova metoda omogućuje ekstremističkom sadržaju da zaobiđe tradicionalne metode nadzora i ostane u opticaju čak i nakon što je uklonjen s poznatijih platformi.

Strategija koja se temelji na "svjetionicima" omogućuje terorističkim skupinama da održe prisutnost svog sadržaja na internetu, koristeći različite platforme za širenje svojih poruka. To predstavlja izazov za regulatorna tijela i tehnološke kompanije koje nastoje ograničiti pristup takvom sadržaju.

Učinkovito suzbijanje online ekstremizma zahtijeva holistički pristup koji ne se ne fokusira samo na izolirane primjere sadržaja ili pojedinačne platforme. Potrebna je suradnja između različitih dionika, uključujući tehnološke kompanije, vladine agencije i civilno društvo, kako bi se razvile strategije koje adresiraju korijene problema i spriječe širenje ekstremističkih ideologija online.

Izazovi s kojima se suočavamo u borbi protiv online ekstremizma su kompleksni i zahtijevaju detaljno razumijevanje kako ekstremisti koriste tehnologiju za širenje svojih poruka. Kako bi se postigle značajne promjene, potrebno je angažirati sve segmente društva u razvijanju i provođenju učinkovitih strategija.

Regulacija koja se bavi online ekstremizmom mora biti pažljivo osmišljena kako ne bi narušila temeljna prava i slobode internetskih korisnika. To uključuje poštivanje privatnosti i slobode izražavanja, što zahtijeva pažljivu ravnotežu između sigurnosti i zaštite prava pojedinaca.

Suočavanje s online ekstremizmom zahtijeva zajedničke napore i inovativne pristupe koji prepoznaju složenost digitalnog okruženja. Samo kroz suradnju i razmjenu znanja i resursa možemo se nadati da ćemo uspješno adresirati ove izazove i graditi sigurnije online zajednice za sve.

Postavljanje filtara nije dovoljno Proces identificiranja i uklanjanja ekstremističkog sadržaja daleko je od jednostavnog. Na primjer, na nedavnom slušanju Vrhovnog suda SAD-a o regulacijama interneta, jedan je odvjetnik tvrdio da platforme mogu moderirati teroristički sadržaj jednostavnim uklanjanjem svega što spominje "al Qaidu".

Međutim, međunarodno priznate terorističke organizacije, njihovi članovi i pristaše ne distribuiraju isključivo sadržaj koji krši politiku ekstremizma. Neki od njih mogu raspravljati o ne-terorističkim aktivnostima, kao što su oni koji sudjeluju u humanitarnim naporima.

Ponekad je njihov sadržaj na granici (užasan, ali zakonit), kao što su mizoginični skriveni signali ili čak "skriveni" u drugom formatu, poput memova.

Prema tome, platforme ne mogu uvijek navesti kršenje politike i prisiljene su koristiti druge metode za borbu protiv takvog sadržaja. Izvještavaju o korištenju različitih tehnika moderiranja sadržaja kao što su preusmjeravanje korisnika, prethodno pobijanje dezinformacija, promicanje protugovora i upozorenja ili provođenje tajnih zabrana. Unatoč ovim naporima, online ekstremizam nastavlja postojati.

Što je uopće ekstremizam? Svi ovi problemi dodatno su zakomplicirani činjenicom da nam nedostaje općeprihvaćena definicija terorizma ili ekstremizma. Sve trenutno postavljene definicije su sporne.

Akademici pokušavaju postići jasnoću koristeći relativističke definicije, kao što je

ekstremizam sam po sebi ovisi o kontekstu u smislu da je to inherentno relativan pojam koji opisuje odstupanje od nečega što je (više) 'obično', 'mainstream' ili 'normalno'.

Međutim, što je nešto što možemo prihvatiti kao univerzalnu normu? Demokracija nije globalna norma, kao ni jednakost prava. Čak ni naše razumijevanje osnovnih načela ljudskih prava globalno nije uspostavljeno.

Što bi regulatori trebali učiniti? Dok povjerenik za e-sigurnost pokušava rasvijetliti kako glavne platforme suzbijaju terorizam, nudimo nekoliko preporuka za povjerenika koje treba razmotriti.

Ekstremisti se oslanjaju na više od samo glavnih platformi za širenje informacija. To ističe važnost proširenja trenutnih upita izvan samo glavnih tehnoloških igrača.
Regulatori moraju uzeti u obzir razlike između platformi koje se opiru usklađenosti, onih koje se usklađuju polovično, i onih koje se trude uskladiti, kao što su mali pružatelji usluga pohrane sadržaja. Svaka vrsta platforme zahtijeva različite regulatorne pristupe ili pomoć.
Buduće regulacije trebale bi poticati platforme na transparentnu suradnju s akademskom zajednicom. Globalna istraživačka zajednica dobro je pozicionirana za rješavanje ovih izazova, kao što je razvoj primjenjivih definicija ekstremizma i novih protumjera.