Ray Kurzweil, informatyk i przedsiębiorca, opublikował w 2005 roku proroczy tekst o tym, co nazwał "osobliwością". Kurzweil przewidział moment w niedalekiej przyszłości, kiedy superinteligentna technologia przewyższy wszelkie wyobrażalne ludzkie zdolności, włączy ludzkość w swoje operacje i rozszerzy swoje panowanie na cały wszechświat. Tytuł jego książki "The Singularity is Near" wskazywał na nieuchronność tego wydarzenia, z przewidywaną datą: rok 2045.

W tym roku, prawie w połowie drogi między 2005 a 2045 rokiem, Kurzweil opublikował aktualizację swojej prognozy. Tytuł książki jest teraz nieco mniej przerażający: "The Singularity is Nearer".

Aby zrozumieć Kurzweila i techno-proroków, którzy poszli za jego przykładem, warto zastanowić się nad naturą proroctwa. Nawet w swoich starożytnych i religijnych formach, celem proroctwa nigdy nie było przewidywanie przyszłości. Zawsze chodziło o wpływanie na teraźniejszość - przekonanie ludzi do życia inaczej dzisiaj, przygotowując się na jutro, które może być czysto hipotetyczne.

W tym kontekście, interesujące jest zapytanie, dlaczego tak wiele dyskusji o nowych technologiach stało się tak apokaliptycznych. Co może osiągnąć taki dyskurs? Czy przewidywanie nadchodzącego zaćmienia ludzkości daje komuś powód do działania teraz lub zmiany jakiegokolwiek aspektu swojego życia? Czy też projekcja nieuchronności bardziej przekonuje ludzi, że nic, co robią, nie może mieć konsekwencji?

Nie ma wątpliwości, że w ogłoszeniach końca czasów jest coś mrocznie pociągającego. Ich wszechobecność w historii ludzkości na to wskazuje. Ale istnieją bardziej produktywne, zrównoważone - choć mniej sensacyjne - sposoby myślenia i mówienia.

Marcus Smith
Nowa książka Marcusa Smitha "Techno: Humans and Technology" jest jednym z umiarkowanych podejść do tego tematu.

Oczywiście, jak wszyscy inni w tym gatunku, Smith szybko sugeruje, że obecny moment jest wyjątkowy i unikalny. Pierwsze zdanie jego książki brzmi: "Żyjemy w środku rewolucji technologicznej." Odwołania do koncepcji "rewolucji" są obficie rozproszone w tekście.

Jednak centralnym argumentem Techno jest to, że musimy regulować technologię. Co ważniejsze, Smith twierdzi, że możemy to zrobić. Jako profesor nadzwyczajny prawa na Uniwersytecie Charles Sturt, sugeruje, że prawo ma więcej niż wystarczające zasoby, aby wprowadzić maszyny pod ludzką kontrolę.

W rzeczywistości, według Smitha, Australia jest unikalnie pozycjonowana, aby przewodzić światu w regulacji technologii, właśnie dlatego, że nie jest domem dla wielkich korporacji technologicznych, które dominują w amerykańskim i europejskim społeczeństwie. To wyjaśnia, dlaczego Australia, według słów Smitha, "bije powyżej swojej wagi" w tej dziedzinie.

Zagrożenie dla demokracji
Smith dzieli swoją książkę na trzy ściśle ustrukturyzowane części, które badają związek technologii z rządem, jednostką i społeczeństwem.

W pierwszej części zajmuje się wielkimi kwestiami politycznymi, takimi jak zmiany klimatyczne wywołane przez człowieka, zastosowanie sztucznej inteligencji w każdym aspekcie życia publicznego oraz systemy kredytu społecznego umożliwione przez cyfrowy nadzór i big data.

Być może najciekawszym argumentem jest tutaj podobieństwo między niesławnym systemem kredytu społecznego stosowanym przez chiński rząd a systemami kredytu społecznego rozwijanymi przez siły komercyjne.

Łatwo jest krytykować rząd, który używa szeregu metod technologicznych do obserwowania, oceniania i regulowania zachowania swoich obywateli. Ale czy banki nie zbierają danych i nie wydają wyroków o potencjalnych klientach cały czas - często z głęboko dyskryminującymi wynikami? I czy platformy takie jak eBay, Uber i Airbnb nie wykorzystują ocen reputacji jako części swojego modelu biznesowego?

Dla Smitha pytanie nie brzmi, czy systemy kredytu społecznego będą istnieć. Jest prawie nieuniknione, że tak będzie. Wzywa nas, abyśmy długo i gruntownie zastanowili się, jak będziemy regulować takie systemy i zapewnili, że nie będą one mogły przeważać nad tym, co uważa za "podstawowe wartości" liberalnej demokracji. Wśród nich Smith wymienia "wolność słowa, wolność przemieszczania się i zgromadzeń", oraz "rządy prawa, podział władzy, wolność prasy i wolny rynek".

Druga część Techno skupia się na jednostce i zagrożeniu, jakie nowe technologie stanowią dla praw do prywatności. Głównym problemem jest tutaj ogromna ilość danych zbieranych o każdym z nas za każdym razem, gdy łączymy się z internetem - co oznacza, dla większości z nas, mniej więcej cały czas.

Jak zauważa Smith, chociaż jest to oczywiście globalne zjawisko, Australia ma wątpliwy zaszczyt przewodzić światowym liberalnym demokracjom w ustawodawstwie, które umożliwia dostęp rządu do tych danych. Prywatne firmy technologiczne w Australii są prawnie zobowiązane do wstawiania tylnego wejścia w szyfrowane działania swoich klientów. Organy ścigania mają uprawnienia do przejmowania kont i zakłócania tych działań.

"Faktem jest, że liberalno-demokratyczne rządy działają w ten sam sposób, co reżimy autorytarne, które krytykują," pisze Smith:

Mogą twierdzić, że robią to tylko w określonych i uzasadnionych przypadkach na podstawie nakazu, ale gdy technologia stanie się dostępna, prawdopodobne jest, że jakaś agencja rządowa rozszerzy swoje uprawnienia, wierząc, że ich działania są uzasadnione korzyściami, jakie ich praca przynosi społeczności.

Wzrost big data nieuchronnie "popycha liberalne demokracje w kierunku bardziej autorytarnego stanowiska". Ale dla Smitha rozwiązanie jest jasne:

Jeśli prawa, takie jak prywatność i autonomia, mają być utrzymane, to nowe przepisy są kluczowe dla zarządzania tymi nowymi kwestiami prywatności, bezpieczeństwa i polityki.

Praktyczne trudności
Ostatnia część Techno skupia się na związku między technologią a społeczeństwem, przy czym Smith głównie myśli o gospodarce i rynkach.

Daje użyteczny przegląd technologii blockchain, którą wykorzystują kryptowaluty, która obiecała złagodzić nierówności i stworzyć wzrost, decentralizując wymianę. Tutaj znowu Smith unika triumfalistycznego lub katastroficznego podejścia. Stawia rozsądne pytania o to, jak rządy mogą pośredniczyć w takiej działalności i utrzymać ją w granicach rządów prawa.

Wskazuje na przykłady Chin i Unii Europejskiej jako dwa możliwe modele. Pierwszy podkreśla rolę państwa; drugi stara się stworzyć warunki legislacyjne dla rynków cyfrowych. I chociaż oba mają poważne ograniczenia, prawdopodobnie najlepszym rozwiązaniem jest kombinacja tych dwóch modeli.

Jednak dopiero na samym końcu książki pojawia się centralne zaniepokojenie Smitha - regulacja. Nie ma trudności w wyrażeniu znaczenia swojej pracy. "Regulacja technologii", pisze, "jest prawdopodobnie najważniejszą kwestią polityki publicznej, przed którą stoi dziś ludzkość."

Stwierdzenie, że musimy regulować technologię, jest jednak znacznie prostsze niż wyjaśnienie, jak możemy to zrobić.

Techno dostarcza bardzo szerokiego zarysu tego ostatniego. Smith sugeruje, że wymagałoby to "zaangażowania kluczowych interesariuszy" (w tym techników, korporacji i etyków), "regulacji za pomocą technologii" (tj. wykorzystywania środków technologicznych do egzekwowania prawa na systemach technologicznych) i ustanowienia "specjalnej agencji międzynarodowej" do koordynowania procesów regulacyjnych.

Jednak Smith nie zajmuje się naprawdę złożonością wdrażania któregokolwiek z tych zaleceń w praktyce. Ponadto możliwe jest, że mimo jego znacznych ambicji jego podejście nie obejmuje prawdziwej skali problemu. Jak niedawno twierdziła inna australijska akademiczka, Kate Crawford, nie możemy zrozumieć inteligentnych technologii po prostu jako obiektów lub narzędzi - komputer, platforma, program. Wynika to z faktu, że nie istnieją one niezależnie od skomplikowanych sieci relacji między ludźmi a światem.

Te sieci rozciągają się na kopalnie litu, które wydobywają minerały umożliwiające działanie technologii, magazyny Amazona, które dostarczają komponenty na całym świecie, oraz cyfrowe zakłady pracy, w których ludziom płaci się grosze za tworzenie iluzji mechanicznej inteligencji. Wszystko to szkodzi środowisku, pogłębia nierówności i ułatwia upadek rządów demokratycznych.

Jeśli projekt regulacji miałby dotknąć tego rodzaju zjawisk, musiałby być znacznie szerszy i bardziej kompleksowy niż nawet Smith sugeruje. Może to oznaczać ponowne przemyślenie, zamiast po prostu próbować zabezpieczyć, niektóre z tego, co Smith nazywa naszymi "podstawowymi wartościami". Może to wymagać zadawania pytań, czy nasze demokracje kiedykolwiek naprawdę były demokratyczne, czy nasze społeczeństwa kiedykolwiek naprawdę dążyły do równości i czy możemy nadal wierzyć w tak zwany "wolny rynek".

Zadawanie takich pytań z pewnością nie oznaczałoby apokalipsy, ale mogłoby oznaczać rewolucję.

Oryginał:
Charles Barbour
Profesor nadzwyczajny, filozofia, Uniwersytet Zachodniego Sydney