Tre år med ChatGPT: Hvem tar beslutningene våre nå?

Hvordan skiller jeg meg best ut i markedet? Hva er mine fremste styrker, og hva er blindsonene mine?

Dette er noen av spørsmålene som Katrine Husebye Leine stiller ChatGPT. Hun er selvstendig næringsdrivende markedsfører og i ferd med å etablere seg i hjembyen Trondheim etter mange år i Oslo.

Hver dag chatter hun med sin trofaste KI-assistent og sparringspartner. Det kan handle om alt fra hvilke kunder hun kan være en god match med, til hvilken date hun kan ta med mannen på. Hun mener også å ha klart å gjenskape oppskriften på favorittbrødet fra bakeren ved hjelp av ChatGPTs utregninger.

Så da hun nylig ble kontaktet av en bedrift som ville ansette henne i fast stilling, var det nærmest en selvfølge at ChatGPT var først på ballen som coach og strategisk rådgiver. Innspillene kom på sekunder.

– ChatGPT stilte meg en del spørsmål som fikk meg til å reflektere. Ville jeg egentlig tilbake til fast jobb? Var dette en god match for meg og hadde jeg søkt på denne stillingen hvis jeg ikke hadde blitt kontaktet direkte? De spørsmålene traff godt, sier Leine.

Hun valgte å takke nei til tilbudet. Men ikke utelukkende på grunn av disse rådene, påpeker hun:

– Jeg liker å samle inn mye informasjon fra ulike kilder før jeg tar valg. De siste årene har ChatGPT blitt en del av denne prosessen.

Hun spør ChatGPT til råds, og får spørsmål tilbake som får henne til å reflektere. Etterpå diskuterer hun det som regel videre med familie og venner, spesielt hvis det er snakk om valg som virkelig betyr noe.

– Jeg ser på rådene fra KI som forslag, og på ingen måte noen fasit, forklarer hun.

Tidligere i høst publiserte OpenAI den største studien hittil om hvordan ChatGPT faktisk brukes. Den viser at 70 prosent av total bruk er knyttet til ikke-arbeidsrelaterte oppgaver, og at unge voksne under 26 år står for en stor del av aktiviteten.

De vanligste bruksområdene er praktiske råd, informasjonssøk og skriving, som til sammen utgjør nær 80 prosent av totalbruk. Bare 1,9 prosent handler om relasjoner og personlig refleksjon, ifølge denne rapporten.

En annen studie på feltet er norsk, og ledet av Petter Bae Brandtzæg, professor ved Universitet i Oslo og sjefforsker i Sintef Digital. Basert på svar fra 166 elever i videregående skole i Norge fant forskerne ut at ungdom bruker ChatGPT til personlig assistanse, emosjonell støtte, underholdning og kreativ inspirasjon, i tillegg til praktiske oppgaver. Forskerne beskriver en klar tendens til at kunstig intelligens brukes i personlige beslutningsprosesser, og introduserer begrepet KI-individualisme for å beskrive hvordan unge skreddersyr en personlig relasjon og støtte til KI snarere enn til mennesker. Dette ser de som et viktigbidragg til den økende individualiseringen av samfunnet.

– Med kunstig intelligens står vi overfor et paradigmeskifte, mener Brandtzæg.

Da internett kom, kunne vi for første gang skreddersy våre egne nettverk uavhengig av tid og sted. Det var en enorm endring i vår sosiale struktur. Nå er KI i ferd med å endre den igjen, påpeker Brandtzæg.

Nå er vi nemlig ikke bare uavhengige av tid og sted, men i økende grad også uavhengige av mennesker.

– Vi har aldri før hatt en teknologi som kommer med egne tanker og meninger, og som faktisk produserer innhold selv. Nå kan du skaffe deg informasjon, få dekket sosial støtte, få en venn, kjæreste eller kollega på en måte som er skreddersydd for deg, sier professoren.

Hvilken farge skal jeg male veggen? Bør jeg slå opp med kjæresten? Bør jeg kjøpe den leiligheten? Si unnskyld til mamma?

KI står klar med råd om alt, den dømmer ikke, og er tilgjengelig 24/7. KI får oss også til å dele mer intime opplysninger enn vi ville gjort ellers, tror Brandtzæg. Det bekymrer ham fordi kommersielle aktører får enda mer kunnskap om oss.

– Vi tar mer hensyn når vi skriver på sosiale medier, fordi andre mennesker leser det. Men når vi snakker med KI, opplever mange at de snakker med en fortrolig venn. De deler mer intime opplysninger om tema som helse, seksualitet og politiske holdninger. Jeg har hørt folk si at «det mest private jeg har, er ChatGPT-loggen min». Det gjør oss mer sårbare for misbruk, mener han.

Å bruke ChatGPT som en første sparringspartner, kan for mange gi en opplevelse av rask klarhet og trygghet, mener psykolog Jan-Ole Hesselberg.

Han er ekspert på beslutningspsykologi, og mener kunstig intelligens er i ferd med å endre måten vi tar valg på. For når kunstig intelligens blir involvert, flyttes selve beslutningsprosessen ut av hodet vårt og inn i et system vi ikke helt forstår. Da er det flere psykologiske feller vi kan gå i, forklarer han.

Én av dem er bekreftelsesfellen:

– Vi har en tendens til å bruke KI til å validere det vi allerede heller mot. Da blir den mer en forsterker av egne skjevheter enn en nøytral rådgiver.

En annen felle, er det han kaller overkonfidens:

– Når KI formulerer seg klart og overbevisende, med et nøytralt og balansert språk, kan vi bli for sikre på at rådet er riktig. Men vi undervurderer ofte begrensningene i vår egen kunnskap, fordi vi vet ikke det vi ikke vet. Dermed klarer vi ikke alltid å stille de spørsmålene vi burde ha stilt, påpeker Hesselberg.

Svarene du får fra KI, bygger nemlig på store mengder menneskeskapt tekst, med alle de skjevhetene som finnes der. Det kan gi en falsk følelse av objektivitet. Derfor er det noen situasjoner der du ikke bør lene deg på KI. Det gjelder for eksempel psykisk helse, alvorlige medisinske avgjørelser eller juridiske forhold, mener han:

– Her kan KI gi råd som virker sannsynlige, men som faktisk kan være direkte feil eller skadelige.

Bruker du KI på en bevisst måte, kan det imidlertid være et godt verktøy for å utforske nye perspektiver, strukturere tanker og stille nye spørsmål som kan gi deg klarhet, mener Hesselberg.

– Men du bør bruke det som et speil eller en sparringspartner, ikke en fasit, råder han.

Spesielt viktig er dette når det gjelder store livsvalg, for slike komplekse og verdiladede spørsmål har ofte ikke noe objektivt svar.

– Hvis vi outsourcer slike valg til KI, risikerer vi å miste eierskapet til beslutningen, og få et råd som ikke tar hensyn til vår unike situasjon, følelser og verdier. Still åpne spørsmål, og be om flere alternativer, før du sjekker rådene opp mot andre kilder, råder psykologen.

Katrine Husebye Leine kjenner seg godt igjen i det Hesselberg beskriver. Hun er opptatt av å holde en kritisk distanse til rådene hun får, ikke minst fordi hun merker at ChatGPT liker å være enig.

– Den tar alt jeg sier for god fisk. Den løfter meg opp og gir meg masse bekreftelse, men den vet jo bare det jeg forteller den. Den ser ikke kroppsspråket mitt, og får ikke med seg noe av det jeg ikke sier. Den pusher meg ikke på samme måte som mennesker gjør.

I tillegg er det jo ikke særlig forpliktende, legger hun til.

– Jeg føler meg ikke ansvarlig for å gjøre noe med det KI foreslår, på samme måte som jeg gjør hvis jeg diskuterer med en kollega eller en venn, sier Leine.

Uansett hva slags informasjon vi velger å dele med kunstig intelligens, er den til salgs. Men det er ikke egentlig noe nytt, forklarer Brandtzæg.

– Dette er en byttehandel vi allerede gjør når vi bruker VG, Google eller hvilke som helst andre tjenester på nett. Det er et villnis av aktører som får informasjon om oss hele tiden, forklarer han.

Når det gjelder KI-modeller, er det også veldig uklart hvem de deler informasjonen med videre. I utgangspunktet har ikke disse aktørene lov til å bruke slike data for å tilnærme seg brukerne med annonser eller påvirkning, men det skjer likevel, påpeker Brandtzæg og viser til Cambridge Analytica-skandalen. Her ble data fra millioner av Facebook-brukere samlet inn og brukt til politisk påvirkning.

I dag er alle de store KI-modellene kommersielle. Det er en utfordring, mener Brandtzæg. Han tror det beste hadde vært om vi klarte å utvikle offentlige modeller som ikke var drevet av profitt og datainnsamling. Samtidig føler han seg langt fra trygg på at det kommer til å skje.

– Foreløpig minner situasjonen mer om det ville vesten, uten klare reguleringer, sier han.

Det beste hadde kanskje vært å bruke europeiske modeller, nevner professoren. Bekymringen for at informasjon kan havne i hendene på fremmede makter er ikke ubegrunnet. Samtidig tror han ikke dette er noe folk flest er veldig bevisste på, eller orker å forholde seg til i hverdagen.

Allerede etter tre år med ChatGPT ser forskerne tegn til at vi er i ferd med å endre oss. Med en helt ny inngang til informasjon og tjenester, endrer det måten vi skriver, leser, tenker og arbeider på, sier Brandtzæg.

– Når KI skriver for oss, og til og med tar vanskelige valg, risikerer vi å svekke evnen til å lese, reflektere og resonnere selv. Konsekvensene kan bli store. Våre studier viser at folk overlater ganske viktige avgjørelser til KI, forteller han.

Hvis alle sitter med hver sin KI-modell, kan det etter hvert også få store konsekvenser for fellesskapet. Og det bekymrer ham enda mer:

– Vi ser for eksempel tegn til at nyansatte på arbeidsplasser velger å spørre KI om råd, fremfor å snakke med de som har jobbet der lenge. Noen lener seg mer på råd fra KI enn tidligere, og mindre på familie eller venner. Etter hvert kan dette bidra til å svekke fellesskapet og det sosiale limet i samfunnet, avslutter Brandtzæg.