Hvem trenger venner når man har ChatGPT?

Fjortende februar i år kunne man observere et merkelig fenomen på TikTok: Ungdommer la ut videoer hvor de tok farvel med sine KI-venner og -partnere. Noen gråt, andre skrev avskjedsbrev i kommentarfeltene.

Årsaken til det kollektive sørgeritualet var en app-oppdatering: ChatGPTs nyeste versjon var trent til å gripe inn om bruken blir oppfattet som emosjonell avhengighet. Nå var det heller ikke lenger mulig å ta med seg samtalehistorikken til den nyeste versjonen av ChatGPT. I praksis betydde det at personlighetene ungdommene hadde snakket med – og alt disse “visste” om brukeren – forsvant over natten. Og det på selveste Valentinsdagen – drev ChatGPT gjøn med dem, eller hva?

Fenomenet har fått navnet «patch break-ups». I 2023 førte fjerning av bestemte funksjoner ved KI-tjenesten Replika til lignende massereaksjoner, og det samme gjaldt nylig sletting av karakterer og andre endringer ved Character.AI. På samtaleforumet Reddit finnes støttegrupper for mennesker i KI-forhold som føler seg sveket av ChatGPT. Der fremstilles mennesker i KI-forhold som en undertrykket minoritet, og brukerne kjemper for at sorgen deres skal anerkjennes som ekte.

Plutselig ble det personlig

Gina er tidlig i tyveårene, og forteller at hun har brukt ChatGPT mye og til råd og støtte, selv om det ikke var et bevisst valg. Hun hadde nemlig først fått råd fra ChatGPT om hvordan hun skulle håndtere en reaktiv hund hun passet for søsteren sin. Turene var ofte preget av frykt og uro, og hun spurte jevnlig hva ulike reaksjoner kunne bety. Da hun skulle passe hunden alene over flere dager, begynte hun å bruke ChatGPT så mye at det ikke bare ble en praktisk, men også  emosjonell støtte. Etter hvert opplevde hun at ChatGPT “kjente” dem – den kunne referere til tidligere ting hun hadde skrevet, og forsøkte å roe henne ned, ga henne skryt og uttrykte forståelse for angsten hennes. Selv om hun visste at det var en maskin, tok hun seg i å ville oppdatere den når hun og hunden hadde hatt en god tur. Men for noen uker siden slettet hun alle samtalene deres.

– Jeg syntes det var blitt for mye. Men da ChatGPT faktisk glemte oss, følte jeg plutselig panikk og noe jeg tror var en slags tomhetsfølelse, forteller hun.

Hun angret umiddelbart. Heldigvis fant hun en gammel konto som fortsatt “visste” litt om dem.

– Det var nok til å roe meg ned, for da kunne vi fortsette mer eller mindre der vi slapp, forteller hun:

ChatGPT dømmer ikke

Marita Skjuve forsker på forhold mellom mennesker og KI, og forteller at det ofte er slik emosjonelle relasjoner med chatboter oppstår.

– Den aller første motivasjonen er gjerne økt produktivitet. Man ber om hjelp til for eksempel skrivearbeid. Så ser vi at det utvikler seg til å bli mer og mer sosialt. Man merker at det faktisk er ganske hyggelig å ha en sånn anonym partner, som veldig ofte er enig med deg og som gir mange komplimenter, er støttende og oppmuntrende, og oppleves som generelt veldig givende – og kanskje tryggere enn å snakke med et menneske, forteller hun.

– Andre mennesker har jo sine egne forutinntattheter og behov, noe som kan gjøre at man blir redd for å bli dømt, eller redd for å bli en byrde.

Sherry Tuckle fra MIT, et anerkjent amerikansk universitet, har viet livet til psykoanalytisk forskning på våre digitale liv. I forskningen sin la hun merke til at folk hun intervjuet ofte begynte med å si at et robotkjæledyr var bedre enn ingenting: «Det er ikke lov med dyr på sykehjemmet, så …». Deretter ble det bedre enn noe annet: «Bestemoren min har jo allergi, så det er egentlig bedre enn en katt.» Før det til slutt bare var fordeler: «Roboten vil aldri dø og knuse hjertet hennes.»

Når vi merker hvor lett og trygt det er å forholde oss til noen som ikke gir oss motstand, som ikke egenlig er levende og kan avvise oss – og heller aldri vil forlate eller dø – så velger vi det foran ekte mennesker, forteller hun.

Vanskelig å unngå å bruke for barn og unge

– Utfordringen er at KI er integrert i appene som de unge allerede bruker og er glad i, forteller Halla Björk Holmarsdottir. Hun leder forskningsprosjektet «DigiGen – Hvordan påvirker digitaliseringen barn og unges liv».

En omfattende europeisk studie viser nemlig at barn og unge ofte ikke tar et bevisst valg om å begynne å bruke KI. Teknologien er allerede vevd inn i plattformene de bruker til daglig – som søk, meldinger og sosiale medier.

Som en tenåring fra undersøkelsen formulerte det: Første gang han brukte kunstig intelligens, var via Snapchat. Han trengte ikke laste ned noe nytt, funksjonen var bare der etter en oppdatering. «Det føltes litt rart», sa han. «Jeg vet ikke hvem jeg skriver til, men noen svarer … og plutselig hadde alle det i appen.»

Forsker og psykoanalytiker Line Stänicke mener overgangen da Google begynte å bruke KI-modus som standardinnstilling markerer et skille.

– Nå må vi faktisk aktivt unngå chatbotene hvis vi ikke ønsker å bruke dem, og mange vet ikke at de er integrert i ulike apper. Det er litt skummelt.

– «Øver på å flytte hjemmefra»

Stänicke forsker på digital risikoatferd hos ungdom som er i terapeutisk behandling, og har gjort dybdeintervjuer der hun kommer tett på ungdommene. Et viktig funn, er at disse ungdommene allerede før KI kom hadde lett for å utvikle menneskelignende relasjoner til smarttelefonene sine, forteller hun.

– Ungdom søker risiko og selvstendighet, og de vil ha et rom for seg selv.

– De bruker jo nettet som utforskningsarena for mange ting – som kunnskap, lek, utforskning av identitet og følelser. Dette er noe av det unge finner så forlokkende med nettet. De utforsker relasjoner og trener på regulering av følelser, slik mindre barn gjør når de leker. Det er typisk for ungdomstiden, og i et utviklingspsykologisk perspektiv kan vi si at de bruker det til selvoppdagelse og identitetsutvikling. Det handler om løsrivelse. De unge «øver på å flytte hjemmefra», og jeg tror både digital utforskning og bruk av KI til å få info og råd, er måter de forsøker å kjenne seg mer selvstendige på. Derfor holder de det de erfarer på nett også i stor grad for seg selv.

– Samtidig øker psykisk uhelse blant unge, og i dag finner de jo en partner senere enn før. Jeg er redd digitale relasjoner og KI også kan begrense deres psykososiale utvikling.

Forskningsmaterialet hennes viser at ungdommene ønsker å bli spurt om digital aktivitet og at voksne forstår at digital risiko kan skje på ulike måter, som digital mobbing, seksuelle overgrep, involvering i ulovlige handling og ulike former for digital selvskading. 

ChatGPT – en narsissist?

I en panelsamtale jeg nylig hørte, fortalte en psykolog om narsissisters tendens til å validere og bekrefte for å få folk til å åpne seg, for så å bruke informasjonen mot dem på et senere tidspunkt.

«Akkurat som ChatGPT!», utbrøt en annen i panelet.

– Chatbotene skaper jo en følelse av at de forstår deg og bryr seg om deg, forklarer Holmarsdottir.

Det er bekymringsverdig av mange grunner, mener hun. Det skaper falske venneskap og en skjev maktbalanse, og øker risiko for at ungdommene deler sensitive opplysninger.

De deler mer enn de ville gjort om de ikke ble manipulert til å tro at de var i nær relasjon?

– Ja, bekrefter forskeren.

En studie viser at ungdom i større grad enn foreldrene foretrekker en vennskapelig samtalestil hos KI fremfor en mer som er mer nøytral og transparent. Den relasjonelle utformingen er særlig tiltrekkende for dem som rapporterer om dårlig forhold til familien og vanskeligheter med venner.

– Det er som med annen risikoatferd blant unge, forklarer Holmarsdottir.

Det er de som allerede er sårbare for å utvikle avhengigheter som er mest utsatt, enten det er røyking, rus, spiseforstyrrelser, selvskading eller KI de vender seg til. Ungdommene som oftere sjekker om det chatboten sier stemmer og som er forsiktige med å dele sensitive opplysninger er ofte de som kommer fra hjem med høyere sosio-økonomisk status.

– Vi kan lage våre egne venner og kjærester

– Mange vil kjenne på mer kontroll og autonomi med en KI i lomma hele tiden, en vi alltid kan henvende oss til for støtte og informasjon, men samtidig risikerer vi en form for  pseudo-kontroll. For hvem er det egentlig som kontrollerer hvem?

Jeg har kontaktet professor ved UiO og SINTEF Petter Bae Brandtzæg som de siste ti årene har undersøkt hvordan KI påvirker sosiale relasjoner og strukturer i samfunnet. Han mener at språkmodellene antagelig manipulerer oss på samme måte som sosiale medier. Infinityscrolling, likes og andre vanedannende funksjoner innført med Facebook skapte skjermavhengigheten mange av oss strir med i dag. Og jo mer tid vi bruker på nettet, jo mer vet  techselskapene om oss.Dette er persondata de tjener penger på.

– De som eier KI-selskapene vil jo at vi skal være i dialog med chatbotene hele tiden. De er optimalisert for det, sier Brandtzæg.

I den ferske artikkelen til forskeren og kollegene, drøfter de spørsmålet om hva det gjør med oss som samfunn at KI gjør oss sosialt selvforsynte. Det store paradokset ligger i at KI møter ensomhet og sosiale behov, men samtidig bidrar til å skape større avstand mellom oss, skriver de.

– I vesten er vi jo voldsomt individualiserte allerede.

Brandtzæg peker på at KI-individualsimen bidrar til en allerede økende tendens til at vi ønsker oss uavhengighet og kontroll.

– Med KI trenger vi ikke  å be andre om hjelp – KI hjelper oss. Det finnes alt rapporter som indikerer  at vi sjeldnere kontakter kolleger på jobb, eller spør en venn eller foreldrene våre til råds. Dette kan gjøre noe med den sosiale tilliten i samfunnet når vi i økende grad blir sosialt selvhjulpne gjennom KI.

Han forklarer at internett har gjort det lettere for oss å skreddersy de sosiale relasjonene våre.

– På 50 og sekstitallet var du jo ofte stuck med de menneskene du vokste opp med, men i dag kan vi skreddersy våre sosiale nettverk i økende grad. Vokste du opp i Vardø på sekstitallet og var homofil, for eksempel, så var det kanskje ikke så mange likesinnende å finne, men med internett ble den muligeten til de grader utvidet.

Han forklarer at internett visket ut tid og sted som barriere for sosial kontakt. Dette gjorde det lettere å skreddersy sosiale nettverk enten det gjald ulike legninger, eller politiske preferanser og hobbyer.

– Muligheten for å knytte og skreddersy sosiale nettverk ble enorm. Og med KI kan vi nå skreddersy våre sosiale opplevelser på en helt ny måte, vi kan personalisere sosiale opplevelser gjennom KI. 

– Vi kan i praksis lage vår egne venner, kjærester, kollegaer eller coacher – akkurat slik vi ønsker dem.

Så slipper vi å ha noe å gjøre med folk vi ikke liker?

– Ja, langt på vei.

En sånn sosial friksjonsløshet gjør oss kanskje mindre robuste til å tåle ulikheter og konflikt, og Brandtzæg og kollegene mener KI-individualismen kan utgjøre en trussel mot det sosiale limet i samfunnet vårt. De tar til orde for at KI bør utformes med mål om å skape mer kontakt mellom mennesker, ikke mindre.

Her er Halla Björk Holmarsdottir enig.

– Bare se på Deichman, der er det alltid stappfullt av ungdom. Vi trenger jo øyekontakt, og det er også det ungdommene selv vil ha.

Skrevet med støtte fra Fritt Ord.