Med vennlig hilsen, ChatGPT

Taina Bucher er professor ved Institutt for medier og kommunikasjon ved Universitetet i Oslo, der hun forsker og underviser innenfor digital infrastruktur og kritiske data- og algoritmestudier. Hun interesserer seg spesielt for de etiske og politiske utfordringene ved et datadrevet samfunn, og hvordan skjermbruk og avansert teknologi påvirker hverdagslivet vårt.

Bucher beskriver ChatGPT som en chatbot, eller samtalerobot, som bruker teknikker fra kunstig intelligens til å føre gode samtaler og besvare spørsmål.

-GPT er den siste i en rekke språkprogrammer eller store språkmodeller som et firma som heter OpenAI har utviklet. Når man sier at den bruker teknikker fra kunstig intelligens mener man primært at den baserer seg på maskinlæring, som er evnen maskinen har til å lære selv fra data, sier Bucher.

Bucher forklarer at «GPT» i Chat GPT står for generative pre-trained transformator, altså at store mengder internettdata evner å lære seg hvordan vi mennesker snakker med hverandre.

Men er ChatGPT kunstig intelligent? Bucher stiller seg tvilende og viser til den kjente datalingvisten, professor Emily M. Bender, som mener at det ikke gir så mye mening å omtale ChatGPT som kunstig intelligent.

-Intelligens er i høyeste grad et relativt begrep i denne sammenhengen, i og med at det ChatGPT gjør er å predikere hvilke ord  som mest sannsynlig kommer etter hverandre, og i hvilken rekkefølge. Den forstår altså ikke hva den sier, den er ikke i besittelse av intensjonalitet, og den har ingen følelser.

Selv om det er enkelt å la seg blende og imponere over ChatGPTs kommunikative ferdigheter, er det viktig å huske på at den ikke forstår det den selv sier.

-Den er kun god til å etterligne språklige formaliteter, ikke mene eller forstå noe om det som blir sagt.

Bucher forteller at det for eksempel har blitt rapportert om bibliotekarer som nå må bruke arbeidsdagen sin på å lete frem bøker som folk har «funnet» gjennom ChatGPT. Problemet er bare at bøkene ikke eksisterer.

-ChatGPT er mer autocomplete enn Google, noe flere og flere brukere kanskje ikke er så klar over, påpeker Bucher.

Til tross for mangelen på forståelse, er det ofte språklige formaliteter og formuleringsevne man trenger. Kan ChatGPT være et godt verktøy til denne type tekstproduksjon?

Å skrive jobbsøknad er noe de aller fleste skal gjøre i løpet av livet. Det kan være vanskelig å komme i gang, og kanskje vet man ikke hvordan en god søknad bør skrives. ChatGPT har ingen av disse problemene. Dørstokkmila eksisterer ikke for samtaleroboten. Etter ChatGPT sitt inntog, trenger vi kanskje ikke skrive en jobbsøknad igjen.

Barbro Mosseng er partner og kommersiell leder i Karrierehuset, og forteller at de har diskutert ChatGPT innad i selskapet.

-Vi ser at denne teknologien er i fremmarsj, og at den er noe vi i vår bransje kommer til å møte og forholde oss til framover, sier hun.

Hun forteller at de i Karrierehuset har jobbet en del med ChatGPT og søknadstekster, og innrømmer at det i mange tilfeller kan være utfordrende å skille en generert søknad fra en søknad skrevet av den faktiske jobbsøkeren.

Samtidig påpeker Mosseng at jobbsøknader er høyst personlige, spesielt motivasjonsbrevet, og hun er derfor i utgangspunktet usikker på hvordan en chatbot vil håndtere disse sidene ved oppgaven.

Det holder hun fast ved også etter å ha lest ChatGPTs jobbsøknad i denne saken.

Chatboten ble informert om den hypotetiske søkerens utdanning og erfaring i grove trekk, og ble bedt om å skrive en «motivert jobbsøknad» til vedlagt utlysning. Dette er en av søknadene ChatGPT genererte som svar på følgende stillingsutlysning.

Mosseng tror teknologi kan være et godt supplement i en jobbsøkerprosess, men at den ikke kan erstatte det personlige bidraget.

-I mange tilfeller er søknadstekstene gode og godt spisset opp mot utlysningsteksten. Men det er viktig å tenke på at søknadsteksten ikke bare må være god og svare på stillingsutlysningen på en god måte, den må også være «din», understreker Mosseng.

På spørsmål om hvordan de ville ha rangert søknaden, er svaret et unisont helt grei, fra Mosseng og hennes kollegaer ved Karrierehuset, Helen Gaunt Sande, Marius Eide, og Mette Løyning.

Sande mener søknaden er for mye vinklet inn mot hva søkeren får ut av stillingen, enn hva personen kan bidra med til arbeidsgiver.

– Jeg synes det allerede i første avsnitt bør stå mer spesifikt om hvorfor du søker på akkurat den stillingen, for så å matche det opp mot hva du kan bidra med. Det er denne vektingen som er viktig, utdyper Sande.

Det er store forskjeller i kvaliteten på menneskeskrevne søknader. Det er derfor utfordrende når det kommer til å peke ut en datagenerert søknad. Likevel kan den litt generelle skrivestilen til chatboten bidra til å avsløre den. Selv om Løyning ikke tror det er lett å skille ut en slik søknad fra «vanlige» søknader, reagerer hun noe på bruken av velkjente fraser.

-Jeg kjenner igjen flere av formuleringene fra ulike søknadseksempler som man finner på nettet, for eksempel bruk av uttrykk som «søker med stor entusiasme», «….tror at de vil være til stor nytte i denne stillingen», «er en lagspiller», og så videre, sier Løyning.

Mosseng tror det vil være en dårlig løsning å lene seg utelukkende på KI når du skal skrive en søknad. Hun mener at en bedre måte å bruke ChatGPT på, er laste opp søknadsteksten du allerede har skrevet og be i ChatGPT om å forbedre teksten.

-Eller kanskje du blir bedt om å sende et engelsk søknadsbrev? Da kan ChatGPT være en god hjelp i oversettingen, foreslår Mosseng.

Karriereveilederne mener også at ChatGPT kan være et relevant sted å begynne søkeprosessen, da det er enklere å starte med noe tekst å jobbe ut fra, enn helt blanke ark. For mange vil dette også kunne være et godt verktøy, særlig hvis man har lite erfaring med jobbsøking, er minoritetsspråklig, eller sliter med dysleksi.

-Det kan være med på å skape et rammeverk som man kan jobbe ut fra. Kunstig intelligens kan nok fungere godt for en som er nyutdannet og med relativt lite erfaring og mindre relevant for en som skal selge seg inn til tyngre jobber og må tenke vektlegging av kompetanse og erfaring i forhold til søknadsteksten, sier Sande.

Selv om ChatGPT ennå ikke kan utkonkurrere en godt skrevet søknad av et menneske, er den likevel tilstrekkelig troverdig om den skulle den utgi seg for å være jobbsøker. Kan denne type teknologi permanent endre hvordan man søker jobb?

-Dersom ChatGPT blir flittig brukt vil det nok tvinge frem andre søknadsformer for å kunne skille de relevante fra de mindre relevante søkere, hevder Sande.

Eide tror som Sande at ChatGPTs inntog kan føre til endringer i resten av søkeprosessen, som å legge større vekt på selve jobbintervjuet, analyser og testing.

-Man kan ikke stoppe utviklingen, men jeg ser også at innovative løsninger ofte tvinger frem andre innovative løsninger igjen, sier Eide.

-Hvem vet, kanskje fører denne teknologien til at søknadsbrevet vil være utdatert om ikke så lenge, undrer Mosseng.

Løyning er tydelig på at teknologien ikke erstatter samtaler og analyser hvor man reflekterer over verdier, muligheter, ønsker og mål, og ikke minst hvor og hvordan kompetanse og egenskaper kan brukes på nye områder.

-Teknologien er ikke en quick-fix til drømmejobben, avslutter Løyning.

ChatGPT og liknende teknologi er altså ingen mirakelassistent og har tydelige begrensninger i det den leverer – enn så lenge.

Taina Bucher forteller at ingen vet eksakt hvilke datasett ChatGPT er trent på, noe som hun også trekker frem som en av dets begrensninger.

-Men det vi vet er at til forskjell fra de fleste «vanlige» samtaleroboter som vi er vant med fra diverse firmaer i kundeservicesammenheng og som gjerne er forhåndsprogrammerte, er ChatGPT trent på en helt vanvittig mengde med tekst og over 170 milliarder parametere. GPT3-språkmodellen, versjon 3 av ChatGPT som er i bruk i dag, er trent på tekstdata hentet fra nettet og bøker, blant annet fra diskusjoner fra Reddit, sier Bucher.

Hun utdyper at ChatGPT dessuten er eksplisitt trent på menneskelig dialog, blant annet gjennom en maskinlæringsteknikk som heter reinforcement learning, eller forsterket læring, med menneskelig feedback. Det betyr at modellen ikke bare er trent opp til å forutsi det neste ordet i en setning, men at den også er blitt forsterket av menneskelig feedback på hvor godt en gitt dialog synes å fungere.

I tillegg har modellen gått gjennom en språkvask.

-I og med at GPT-modellene er trent på internettdata er den også i høy grad tilbøyelig til å reprodusere og forsterke kjønnsdiskriminerende språk og rasistiske holdninger. Et viktig ledd i opptreningen av OpenAIs nyeste modeller er et storstilt forsøk på å rense språket for slike diskriminerende holdninger, opplyser Bucher.

-Fra en stor reportasje i TIME, vet vi at OpenAI har outsourcet mye av denne språkvasken til lavlønnede arbeidere i Kenya.

Bucher mener dette må medregnes når man snakker om ChatGPTs begrensninger.

-Selv om vi vet, gjennom forskning og god journalistikk på området, at AI ofte er avhengig av skjult menneskelig arbeidskraft i det globale sør som i mange tilfeller både er psykologisk skadelig og utnyttende for de som utøver denne jobben, hører denne delen av utviklingen i høyeste grad med når en skal diskutere ChatGPTs begrensninger, også i etisk forstand, avslutter Bucher.