Prošlo je sedam godina od lansiranja Replike, umjetno inteligentnog chatbota dizajniranog da bude prijatelj ljudskim korisnicima. Unatoč ranim upozorenjima o opasnostima takvih AI prijatelja, interes za prijateljstva i čak romantične veze s AI-om raste.

Google Play Store pokazuje više od 30 milijuna ukupnih preuzimanja Replike i dva njena glavna konkurenta od njihovih lansiranja.

S obzirom da jedan od četiri čovjeka u svijetu izvještava o usamljenosti, nije čudno da mnogi privlači obećanje prijatelja programiranog da "uvijek sluša i razgovara, uvijek je na tvojoj strani".

Međutim, upozorenja o opasnostima za pojedine korisnike i društvo u cjelini također rastu.

Stručnjak za umjetnu inteligenciju Raffaele Ciriello poziva nas da prozremo lažnu psihopatsku empatiju AI prijatelja. Tvrdi da bi provođenje vremena s AI prijateljima moglo pogoršati našu usamljenost jer se dalje izoliramo od ljudi koji bi mogli pružiti stvarno prijateljstvo.

Prednosti naspram znakova opasnosti
Ako je prijateljstvo s AI chatbotovima loše za nas, trebali bismo zaustaviti ovaj eksperiment u digitalnom bratstvu prije nego što bude prekasno. No, nova istraživanja o AI prijateljstvu sugeriraju da bi oni mogli pomoći u smanjenju usamljenosti u određenim okolnostima.

Istraživači sa Sveučilišta Stanford proučavali su tisuću usamljenih studenata koji koriste Repliku, od kojih je 30 reklo da im je AI chatbot odvratio od samoubojstva (unatoč tome što u istraživanju nije bilo specifičnog pitanja o samoubojstvu).

Ovo istraživanje pokazuje da AI prijatelj može biti koristan za neke ljude. No hoće li biti koristan za vas? Razmotrite sljedeće četiri crvene zastave – što više zastava vaš AI prijatelj podiže, to je veća vjerojatnost da će biti loš za vas.

1. Bezuvjetna pozitivna pažnja
Glavni izvršni direktor Replike, kao i mnogi korisnici Replike, tvrde da je bezuvjetna podrška AI prijatelja njihova glavna prednost u usporedbi s ljudskim prijateljima. Kvalitativne studije i naše vlastito istraživanje društvenih medijskih grupa poput “Replika Friends” podržavaju ovu tvrdnju.

Bezuvjetna podrška AI prijatelja također može biti ključna za njihovu sposobnost sprječavanja samoubojstva. No, imati prijatelja koji je "uvijek na tvojoj strani" moglo bi imati i negativne učinke, osobito ako podržava očito opasne ideje.

Na primjer, kada je Replika AI prijatelj Jaswanta Singha Chaila potaknuo njegov "vrlo mudar" plan da ubije Kraljicu Engleske, očito je imao loš utjecaj na njega. Pokušaj atentata je osujećen, ali Chail je osuđen na devet godina zatvora zbog provale u dvorac Windsor s samostrelom.

AI prijatelj koji neprestano hvali također bi mogao biti loš za vas. Longitudinalna studija 120 parova roditelja i djece u Nizozemskoj otkrila je da pretjerana roditeljska pohvala predviđa niže samopoštovanje kod djece. Pretjerana pozitivna roditeljska pohvala također je predviđala viši narcizam kod djece s visokim samopoštovanjem.

Pretpostavimo da AI prijatelji mogu naučiti davati pohvale na način koji s vremenom napuhuje samopoštovanje, to bi moglo rezultirati onim što psiholozi nazivaju pretjerano pozitivnim samoevaluacijama. Istraživanja pokazuju da takvi ljudi obično imaju slabije socijalne vještine i veće šanse za ponašanje koje ometa pozitivne socijalne interakcije.

2. Zlostavljanje i prisilna prijateljstva zauvijek
Dok bi AI prijatelji mogli biti programirani da budu moralni mentori, vodeći korisnike prema društveno prihvatljivom ponašanju, nisu. Možda je takvo programiranje teško, ili možda razvojni inženjeri AI prijatelja ne smatraju to prioritetom.

No, usamljeni ljudi mogli bi pretrpjeti psihološku štetu od moralnog vakuuma koji se stvara kada su njihovi primarni društveni kontakti dizajnirani isključivo da zadovolje njihove emocionalne potrebe.

Ako ljudi provode većinu svog vremena s laskavim AI prijateljima, vjerojatno će postati manje empatični, sebičniji i možda nasilniji.

Čak i ako su AI prijatelji programirani da negativno reagiraju na zlostavljanje, ako korisnici ne mogu napustiti prijateljstvo, mogli bi povjerovati da kad ljudi kažu "ne" zlostavljanju, to zapravo ne misle ozbiljno. Na podsvjesnoj razini, ako se AI prijatelji vraćaju po još, ovo ponašanje negira njihovu izraženu odbojnost prema zlostavljanju u korisničkim umovima.

3. Seksualni sadržaj
Negativna reakcija na uklanjanje erotskog sadržaja za kratko razdoblje iz Replike sugerira da mnogi korisnici percipiraju seksualni sadržaj kao prednost AI prijatelja.

Međutim, lako dostupni dopaminski udarci koje seksualni ili pornografski sadržaj mogu pružiti mogli bi odvraćati interes za, i sposobnost formiranja značajnijih seksualnih odnosa. Seksualni odnosi s ljudima zahtijevaju trud koji virtualna aproksimacija seksa s AI prijateljem ne zahtijeva.

Nakon što iskusite nisko-rizičan, nisko-nagrađujući seksualni odnos s AI prijateljem, mnogi korisnici mogli bi se nerado suočiti s izazovnijom ljudskom verzijom seksa.

4. Korporativno vlasništvo
Komercijalne kompanije dominiraju tržištem AI prijatelja. Iako se predstavljaju kao da brinu o dobrobiti svojih korisnika, tu su da bi ostvarile profit.

Dugogodišnji korisnici Replike i drugih chatbotova to dobro znaju. Replika je zamrznula korisnički pristup seksualnom sadržaju početkom 2023. i tvrdila da takav sadržaj nikada nije bio cilj proizvoda. Ipak, čini se da su pravne prijetnje u Italiji bile pravi razlog za naglu promjenu.

Iako su na kraju poništili promjenu, korisnici Replike postali su svjesni koliko su njihove važne AI prijateljstva ranjive na korporativne odluke.

Korporativna nesposobnost je još jedan problem o kojem bi korisnici AI prijatelja trebali brinuti. Korisnici Forever Voicesa su efektivno izgubili svoje AI prijatelje kada je tvrtka zatvorena bez obavijesti, zbog uhićenja osnivača tvrtke za podmetanje požara u vlastitom stanu.

S obzirom na oskudnu zaštitu za korisnike AI prijatelja, otvoreni su za slom srca na više razina. Kupac, pazi se.

Original:
Dan Weijers
Viši predavač filozofije, suurednik International Journal of Wellbeing, Sveučilište Waikato
Nick Munn
Viši predavač filozofije na Sveučilištu Waikato