Ray Kurzweil, računalni znanstvenik i poduzetnik, 2005. godine objavio je proročanski tekst o onome što je nazvao "singularnost". Kurzweil je predvidio trenutak u bliskoj budućnosti kada će superinteligentna tehnologija nadmašiti sve zamislive ljudske sposobnosti, uključiti čovječanstvo u svoje operacije i proširiti svoje majstorstvo na čitav svemir. Naslov njegove knjige, "The Singularity is Near", nagovijestio je neizbježnost ovog događaja, s predviđenim datumom: 2045. godina.

Ove godine, gotovo na pola puta između 2005. i 2045., Kurzweil je objavio ažuriranje svoje prognoze. Naslov knjige sada je nešto manje zastrašujuć: "The Singularity is Nearer".

Da bismo razumjeli Kurzweila i tehno-proroke koji su slijedili njegov primjer, vrijedi razmisliti o prirodi proročanstva. Čak i u svojim drevnim i religijskim oblicima, svrha proročanstva nikada nije bila predvidjeti budućnost. Uvijek je bilo da se utječe na sadašnjost - da se uvjeri ljude da žive svoje živote drugačije danas, pripremajući se za sutra koje može biti samo hipotetičko.

U tom kontekstu, zanimljivo je zapitati se zašto je toliko diskursa o novim tehnologijama postalo tako apokaliptično. Što takav diskurs može postići? Daje li predviđanje nadolazećeg pomračenja čovječanstva ikome razlog da djeluje sada ili promijeni bilo koji aspekt svog života? Ili je projekcija neizbježnosti vjerojatnija da uvjeri ljude kako ništa što rade ne može imati posljedice?

Nema sumnje da postoji nešto mračno privlačno u najavama kraja vremena. Njihova sveprisutnost kroz ljudsku povijest to sugerira. Ali postoje produktivniji, uravnoteženiji - ako manje senzacionalni - načini razmišljanja i govorenja.

Marcus Smith
Marcus Smithova nova knjiga "Techno: Humans and Technology" jedan je od umjerenijih pristupa ovoj temi.

Naravno, kao i svi drugi u ovom žanru, Smith brzo predlaže da je sadašnji trenutak izniman i jedinstven. Prva rečenica njegove knjige glasi: "Živimo usred tehnološke revolucije." Reference na koncept "revolucije" obilato su razasute kroz tekst.

Ali središnji argument Techno-a je da moramo regulirati tehnologiju. Što je još važnije, Smith tvrdi da možemo. Kao izvanredni profesor prava na Sveučilištu Charles Sturt, sugerira da pravo ima više nego dovoljno resursa za postavljanje strojeva pod ljudsku kontrolu.

U stvari, prema Smithu, Australija je jedinstveno pozicionirana da predvodi svijet u tehnološkoj regulaciji, upravo zato što nije dom velikim tehnološkim korporacijama koje dominiraju američkim i europskim društvom. To objašnjava zašto Australija, prema Smithovim riječima, "udara iznad svoje težine" u ovom području.

Prijetnja demokraciji
Smith dijeli svoju knjigu u tri čvrsto strukturirana dijela koja ispituju odnos tehnologije prema vladi, pojedincu i društvu.

U prvom dijelu bavi se velikim političkim pitanjima, kao što su ljudski izazvane klimatske promjene, primjena AI u svaki aspekt javnog života, te sustavi društvenog kredita omogućeni digitalnim nadzorom i velikim podacima.

Možda je najzanimljiviji argument ovdje sličnost između zloglasnog sustava društvenog kredita koji koristi kineska vlada i sustava društvenog kredita koje razvijaju komercijalne sile.

Lako je kritizirati vladu koja koristi niz tehnoloških metoda za promatranje, ocjenjivanje i reguliranje ponašanja svojih građana. Ali zar banke ne prikupljaju podatke i ne donose presude o potencijalnim klijentima cijelo vrijeme - često s duboko diskriminirajućim rezultatima? I zar platforme poput eBay-a, Uber-a i Airbnb-a ne koriste reputacijske kreditne ocjene kao dio svog poslovnog modela?

Za Smitha, pitanje nije hoće li sustavi društvenog kredita postojati. Gotovo je neizbježno da hoće. Poziva nas da dugo i temeljito razmislimo o tome kako ćemo regulirati takve sustave i osigurati da im nije dopušteno nadvladati ono što smatra "osnovnim vrijednostima" liberalne demokracije. Među njima, Smith uključuje "slobodu govora, kretanja i okupljanja", te "vladavinu prava, odvajanje vlasti, slobodu tiska i slobodno tržište".

Drugi dio Techno-a usmjerava se na pojedinca i prijetnju koju nove tehnologije predstavljaju pravima na privatnost. Glavna briga ovdje je ogromna količina podataka prikupljenih o svakom od nas svaki put kada se povežemo na internet - što znači, za većinu nas, više ili manje cijelo vrijeme.

Kao što Smith ističe, iako je to očito globalni fenomen, Australija ima dvojbenu čast da predvodi svjetske liberalne demokracije u zakonodavstvu koje omogućuje vladin pristup tim podacima. Privatne tehnološke tvrtke u Australiji zakonski su obvezane umetnuti stražnja vrata u šifrirane aktivnosti svojih klijenata. Agencije za provođenje zakona imaju moć preuzeti račune i ometati te aktivnosti.

"Činjenica je da liberalno-demokratske vlade djeluju na isti način kao i autoritarni režimi koje kritiziraju," piše Smith:

Oni mogu tvrditi da to čine samo u specificiranim i opravdanim slučajevima pod nalogom, ali jednom kada tehnologija postane dostupna, vjerojatno je da će neka vladina agencija proširiti svoje ovlasti, vjerujući da su njihovi postupci opravdani koristi koju njihov rad donosi zajednici.

Pojava velikih podataka tako neizbježno "gura liberalne demokracije prema autoritarnijem stavu". No, za Smitha, rješenje je spremno:

Ako se prava poput privatnosti i autonomije žele održati, tada su nove regulacije ključne za upravljanje tim novim pitanjima privatnosti, sigurnosti i politike.

Praktične poteškoće
Posljednji dio Techno-a fokusira se na odnos između tehnologije i društva, pri čemu Smith uglavnom misli na ekonomiju i tržišta.

Pruža koristan pregled blockchain tehnologije koju koriste kriptovalute, koja je obećala ublažiti nejednakost i stvoriti rast decentraliziranjem razmjene. Ovdje opet Smith izbjegava trijumfalistički ili katastrofičan pristup. Postavlja razumna pitanja o tome kako bi vlade mogle posredovati takvom aktivnošću i zadržati je unutar granica vladavine prava.

Ukazuje na primjere Kine i Europske unije kao dva moguća modela. Prva naglašava ulogu države; druga pokušava stvoriti zakonodavne uvjete za digitalna tržišta. I dok oba imaju ozbiljna ograničenja, neka kombinacija ta dva modela vjerojatno je najuspješnija.

No, doista na samom kraju knjige dolazi do izražaja Smithova središnja briga - regulacija. On nema poteškoća u izražavanju značaja svog rada. "Regulacija tehnologije," piše, "vjerojatno je najvažnije javno političko pitanje s kojim se čovječanstvo danas suočava."

Izjaviti da moramo regulirati tehnologiju, međutim, mnogo je jednostavnije nego objasniti kako to možemo učiniti.

Techno pruža vrlo širok nacrt potonjeg. Smith sugerira da bi to zahtijevalo "uključivanje ključnih aktera" (uključujući tehničare, korporacije i etičare), "regulaciju tehnologijom" (to jest, korištenje tehnoloških sredstava za nametanje zakona tehnološkim sustavima), i uspostavu "posebne međunarodne agencije" za koordinaciju regulatornih procesa.

Ali Smith se ne osvrće stvarno na složenost provedbe bilo koje od ovih preporuka u praksi. Štoviše, moguće je da, unatoč njegovoj znatnoj ambiciji, njegov pristup ne uspijeva obuhvatiti pravu razinu problema. Kao što je nedavno tvrdila druga australska akademkinja, Kate Crawford, ne možemo razumjeti inteligentne tehnologije jednostavno kao objekte ili alate - računalo, platformu, program. To je zato što ne postoje neovisno o zamršenim mrežama odnosa između ljudi i svijeta.

Te mreže protežu se do rudnika litija koji vade minerale koji omogućuju rad tehnologije, Amazonovih skladišta koja isporučuju komponente širom svijeta, i digitalnih tvornica za djeliće posla u kojima se ljudima plaća nadnica za stvaranje iluzije mehaničke inteligencije. Sve to nanosi štetu okolišu, pojačava nejednakosti i olakšava rušenje demokratskog upravljanja.

Ako bi projekt regulacije trebao dodirnuti fenomene ove vrste, morao bi biti mnogo opsežniji i sveobuhvatniji nego što čak i Smith predlaže. Moglo bi značiti preispitivanje, umjesto da se jednostavno pokuša osigurati, nekih od onoga što Smith naziva našim "osnovnim vrijednostima". Moglo bi zahtijevati postavljanje pitanja, na primjer, jesu li naše demokracije ikada doista bile demokratske, jesu li naša društva ikada doista težila jednakosti, i možemo li nastaviti vjerovati u takozvano "slobodno tržište".

Postavljanje ovakvih pitanja sigurno ne bi značilo apokalipsu, ali moglo bi značiti revoluciju.

Original:
Charles Barbour
Izvanredni profesor, filozofija, Sveučilište Western Sydney