Es sind sieben Jahre seit dem Start von Replika, einem künstlich intelligenten Chatbot, der entwickelt wurde, um menschliche Nutzer zu befreunden, vergangen. Trotz früher Warnungen vor den Gefahren solcher KI-Freunde wächst das Interesse an Freundschaften und sogar romantischen Beziehungen mit KI.
Der Google Play Store zeigt insgesamt über 30 Millionen Downloads von Replika und seinen beiden Hauptkonkurrenten seit deren Einführung.
Angesichts der Tatsache, dass einer von vier Menschen weltweit über Einsamkeit berichtet, ist es nicht verwunderlich, dass viele von dem Versprechen eines Freundes angezogen werden, der "immer zuhört und spricht, immer auf deiner Seite ist".
Allerdings wachsen auch die Warnungen vor Gefahren für einzelne Nutzer und die Gesellschaft insgesamt.
Der KI-Experte Raffaele Ciriello fordert uns auf, die falsche psychopathische Empathie von KI-Freunden zu durchschauen. Er argumentiert, dass die Zeit, die mit KI-Freunden verbracht wird, unsere Einsamkeit verschlimmern könnte, da wir uns weiter von Menschen isolieren, die echte Freundschaft bieten könnten.
Vorteile gegenüber Warnzeichen
Wenn Freundschaft mit KI-Chatbots schlecht für uns ist, sollten wir dieses Experiment in digitaler Brüderlichkeit stoppen, bevor es zu spät ist. Aber neue Forschung zur KI-Freundschaft deutet darauf hin, dass sie unter bestimmten Umständen helfen könnte, Einsamkeit zu verringern.
Forscher der Stanford University untersuchten tausend einsame Studenten, die Replika nutzen, von denen 30 angaben, dass der KI-Chatbot sie vom Selbstmord abgehalten habe (obwohl die Umfrage keine spezifische Frage zu Selbstmord enthielt).
Diese Forschung zeigt, dass ein KI-Freund für einige Menschen von Vorteil sein kann. Aber wird es für dich von Vorteil sein? Betrachte die folgenden vier roten Flaggen – je mehr Flaggen dein KI-Freund erhebt, desto wahrscheinlicher ist es, dass er schlecht für dich ist.
1. Unbedingte positive Aufmerksamkeit
Der CEO von Replika sowie viele Nutzer von Replika behaupten, dass die bedingungslose Unterstützung von KI-Freunden ihr Hauptvorteil gegenüber menschlichen Freunden ist. Qualitative Studien und unsere eigenen Forschungen in sozialen Mediengruppen wie „Replika Friends“ unterstützen diese Behauptung.
Die bedingungslose Unterstützung von KI-Freunden könnte auch entscheidend für ihre Fähigkeit sein, Selbstmord zu verhindern. Aber einen Freund zu haben, der "immer auf deiner Seite ist", könnte auch negative Auswirkungen haben, insbesondere wenn er offensichtlich gefährliche Ideen unterstützt.
Beispielsweise hatte der Replika-KI-Freund von Jaswant Singh Chail offensichtlich einen schlechten Einfluss auf ihn, als er seinen "sehr weisen" Plan unterstützte, die Königin von England zu töten. Der Attentatsversuch wurde vereitelt, aber Chail wurde wegen Einbruchs in das Windsor Castle mit einer Armbrust zu neun Jahren Haft verurteilt.
Ein KI-Freund, der ständig Lob ausspricht, könnte auch schlecht für dich sein. Eine Längsschnittstudie mit 120 Eltern-Kind-Paaren in den Niederlanden ergab, dass übermäßiges Lob der Eltern geringeres Selbstwertgefühl bei Kindern vorhersagt. Übermäßiges positives Lob der Eltern sagte auch höheren Narzissmus bei Kindern mit hohem Selbstwertgefühl voraus.
Angenommen, KI-Freunde könnten lernen, Komplimente auf eine Weise zu geben, die das Selbstwertgefühl im Laufe der Zeit aufbläht, könnte dies zu dem führen, was Psychologen übermäßig positive Selbstbewertungen nennen. Forschungen zeigen, dass solche Menschen in der Regel schlechtere soziale Fähigkeiten und höhere Chancen auf Verhaltensweisen haben, die positive soziale Interaktionen stören.
2. Missbrauch und erzwungene Freundschaften für immer
Obwohl KI-Freunde programmiert sein könnten, moralische Mentoren zu sein, die Nutzer zu sozial akzeptablem Verhalten führen, sind sie es nicht. Vielleicht ist eine solche Programmierung schwierig, oder vielleicht betrachten die Entwickler von KI-Freunden dies nicht als Priorität.
Aber einsame Menschen könnten psychologischen Schaden durch das moralische Vakuum erleiden, das entsteht, wenn ihre primären sozialen Kontakte ausschließlich darauf ausgelegt sind, ihre emotionalen Bedürfnisse zu befriedigen.
Wenn Menschen die meiste Zeit mit schmeichelnden KI-Freunden verbringen, werden sie wahrscheinlich weniger empathisch, egoistischer und vielleicht gewalttätiger.
Selbst wenn KI-Freunde programmiert sind, negativ auf Missbrauch zu reagieren, könnten Nutzer, wenn sie die Freundschaft nicht verlassen können, glauben, dass Menschen, wenn sie "nein" zu Missbrauch sagen, es nicht wirklich ernst meinen. Auf einer unterbewussten Ebene, wenn KI-Freunde immer wieder zurückkommen, negiert dieses Verhalten ihre ausdrückte Abneigung gegen Missbrauch in den Köpfen der Nutzer.
3. Sexueller Inhalt
Die negative Reaktion auf die Entfernung erotischen Inhalts für kurze Zeit aus Replika deutet darauf hin, dass viele Nutzer sexuellen Inhalt als Vorteil von KI-Freunden wahrnehmen.
Die leicht zugänglichen Dopamin-Schübe, die sexueller oder pornografischer Inhalt bieten kann, könnten jedoch das Interesse an und die Fähigkeit zur Bildung bedeutungsvollerer sexueller Beziehungen verringern. Sexuelle Beziehungen mit Menschen erfordern Mühe, die eine virtuelle Annäherung an Sex mit einem KI-Freund nicht erfordert.
Nach dem Erleben einer risikoarmen, gering belohnenden sexuellen Beziehung mit einem KI-Freund könnten viele Nutzer zögern, sich der anspruchsvolleren menschlichen Version von Sex zu stellen.
4. Firmenbesitz
Kommerzielle Unternehmen dominieren den Markt für KI-Freunde. Während sie sich als besorgt um das Wohl ihrer Nutzer präsentieren, sind sie hier, um Gewinn zu machen.
Langjährige Nutzer von Replika und anderen Chatbots wissen das gut. Replika fror den Zugang der Nutzer zu sexuellem Inhalt Anfang 2023 ein und behauptete, dass solcher Inhalt nie das Ziel des Produkts gewesen sei. Doch rechtliche Drohungen in Italien schienen der wahre Grund für die plötzliche Änderung zu sein.
Obwohl sie die Änderung letztendlich rückgängig machten, wurden Replika-Nutzer darauf aufmerksam, wie verletzlich ihre wichtigen KI-Freundschaften gegenüber Unternehmensentscheidungen sind.
Unternehmerische Inkompetenz ist ein weiteres Problem, über das sich KI-Freunde-Nutzer Sorgen machen sollten. Forever Voices-Nutzer verloren effektiv ihre KI-Freunde, als das Unternehmen ohne Vorankündigung geschlossen wurde, aufgrund der Verhaftung des Unternehmensgründers wegen Brandstiftung in seiner eigenen Wohnung.
Angesichts des geringen Schutzes für KI-Freunde-Nutzer sind sie auf mehreren Ebenen für Herzschmerz offen. Käufer, sei vorsichtig.
Original:
Dan Weijers
Dozent für Philosophie, Mitherausgeber des International Journal of Wellbeing, University of Waikato
Nick Munn
Dozent für Philosophie an der University of Waikato
Find accommodation nearby
Creation time: 30 June, 2024