KI-utviklingen kan true det norske valget

En regjeringsoppnevnt ekspertgruppe la i vinter frem en rapport om valg og kunstig intelligens. Rapportens anbefalinger ble blant annet brukt som grunnlag for 18-punkts planen regjeringen la frem i juni for å styrke norsk motstandsdyktighet mot uønsket valgpåvirkning.

Gruppens arbeid fulgte tre hovedspor: informasjons- og medielandskap, fordekte valgpåvirkningsaksjoner og valggjennomføring, samt cybersikkerhet. Ifølge forsker ved NUPI, Niels Nagelhus Schia, som ledet ekspertgruppen, har mange av truslene gruppen identifiserte, eksistert i lengre tid, men blitt vanskeligere å beskytte seg mot.

– Mange av truslene har eksistert i alle fall siden valget i USA i 2016, men den raske KI-utviklingen har akselerert dem, understreker Nagelhus Schia, som legger til at trusselbildet også er blitt mer uoversiktlig fordi den geopolitiske situasjonen er mer anspent nå enn hva den har vært før.

Ekspertgruppen baserte mye av sitt arbeid på studier av, og besøk i de mange landene som avholdt valg i 2024, for å lære av deres erfaringer. Ifølge Nagelhus Schia er aggressiv bruk av KI i valgsammenheng et globalt problem.

– Teknologien kan sammenlignes med klimaendringer og pandemier, i den forstand at den ikke kjenner grenser, men kan treffe og påvirke oss uansett hvor vi er, sier han.

Nagelhus Schia understreker at drivkraften bak teknologiutviklingen er gigastore teknologiselskaper med interesser og profittbehov som ikke nødvendigvis sammenfaller med behovet for å styrke norsk – eller andre lands – demokrati. Forskeren oppfordrer derfor Norge og andre stater til å føre en aktiv utenrikspolitikk på teknologiområdet.

– De store teknologiselskapene er blitt viktige geopolitiske aktører. Måten og rekkefølgen informasjonen kommer til oss på, bestemmes i stor grad av teknologiselskapene og er noe som faller utenfor vårt nasjonale bestemmelsesområde. Derfor må vi jobbe for å få på plass internasjonale regler på teknologiområdet, sier Nagelhus Schia.

Som NUPI-forsker er han spesielt opptatt av behovet for at stater samarbeider for å sette regler for teknologiutvikling og bruk. Forskeren oppfordrer derfor Norge til å ha en aktiv utenrikspolitikk på teknologiområdet.

Ifølge Nagelhus Schia er det ofte en sammenfallende virkning mellom de tre hovedkategoriene i rapporten – et svakt medielandskap, cybertrusler og påvirkningskampanjer – som gir de mest dramatiske resultatene. Fjorårets presidentvalg i Romania er et godt eksempel. Valget ble til slutt kansellert av rumensk høyesterett, som måtte skrive ut nyvalg.

– Kombinasjon av nasjonale og eksterne aktører, slik vi så i Romania og slik vi blant annet så i Norge med FOR-saken, skaper en gråsone for demokratiet, forklarer Nagelhus Schia.

Nagelhus Schia er blant dem som forsvarer NRK og Fredrik Solvangs mye omdiskuterte beslutning om å invitere partiet FOR til Debatten.

– På den måten fikk alle seere informasjon om hva dette handler om og hvor pengene kom fra. For meg vil det si at NRK, som et redaktørstyrt medium, gjorde jobben sin, understreker Nagelhus Schia.

Fordi informasjons- og medielandskapet er så utsatt for negativ KI-påvirkning, understreker Nagelhus Schia at det er viktig å styrke nettopp de redaktørstyrte mediene.

Laurie MacGregor, som er ansvarlig for NRKs valgdekning, er klar over det ansvaret hun og kollegene har i så måte.

– Vi jobber også løpende med å vurdere risiko og sårbarhet, og er bevisst på faren for spredningen av skadelig eller falskt innhold som er generert av kunstig intelligens, sier MacGregor, som legger til at NRK ble invitert til å holde innlegg for ekspertgruppen og har lest rapporten med stor interesse.

MacGregor forklarer at NRKs journalister er opplært i verifiseringsmetoder som hjelper dem å oppdage om et stykke innhold er KI-generert.

– Er vi usikre på om et stykke innhold er ekte eller ikke, skal vi ikke publisere det, understreker hun.

Ekspertgruppen understreker at Norge på generelt grunnlag har et bredt og stabilt medielandskap. Likevel peker rapporten på at enkelte grupper, spesielt ungdom og unge kvinner, i mindre grad vender seg til etablerte medier for å få informasjon, men i stedet foretrekker sosiale medier.

Laurie MacGregor forklarer at NRK jobber kontinuerlig med å finne nye måter å engasjere og nå ut til yngre brukere.

– I år lanserer vi for eksempel et nytt partilederutspørringsformat, nemlig en videopodkast med Erlend Mørch som programleder som vi håper vil bli valgt av flere i de yngre segmentene. Dette er en gruppe som tradisjonelt ikke har valgt å følge NRKs partilederintervjuer, sier hun, og legger til at NRK også jobber med å nå unge mediebrukere via sosiale medier.

– De sakene vi lager for å øke bevisstheten rundt faren for å møte falskt KI-generert innhold på nettet, legger vi også ut på disse plattformene i en egen versjon, sier hun.

MacGregor sier at NRK også planlegger å utvide aktiviteten på sosiale medier før valget til også å inkludere en egen konto på TikTok som skal være en del av NRK nyheters portefølje.

Mens NRK og andre redaktørtstyrte medier jobber for at den informasjonen som publiseres og kringkastes er riktig, har også andre aktører tatt grep etter at ekspertgruppens rapport ble publisert. Det gjelder blant annet Nasjonal Sikkerhetsmyndighet (NSM) som bistår Valgdirektoratet i håndteringen av cybersikkerheten knyttet til valget.

Fagdirektør i NSM, Andreas Skjøld-Lorange, forklarer hva de har gjort i en epost.

«NSM har blant annet hatt møter med teknologiplattformene Snapchat, Meta og TikTok, der disse organisasjonene gjorde rede for hvordan de jobber for å sikre god informasjon, forhindre falske kontoer og sørge for kontaktpunkt for partiene i valgkampen», skriver Skjøld-Lorange.

For Niels Nagelhus Schia, er alle disse tiltakene viktige. Blant anbefalingene ekspertgruppen kom med, ønsker han ikke å rangere noen av dem som viktigere enn andre, nettopp fordi de er rettet mot ulike aktører og treffer ulike målgrupper.

– Dersom man er usikker på om velgerne får god og gyldig informasjon, kan det sparke bena under demokratiet. Anbefalingene skal virke sammen for å hindre det, understreker han.