Ikke la deg lure av KI-kloner i videomøter

— Folk er nok klar over at det finnes en risiko, men tenker gjerne at ‘det skjer ikke meg, jeg sitter ikke i en viktig nok rolle, og jeg har ikke noe andre er ute etter’. Men det er mye mer utspekulert enn som så, sier Patricia Stang-Auseth, kommunikasjonsrådgiver i Pexip.

I et frokostseminar arrangert av Digital Norway, belyste Stang-Auseth og Håkon Heltne i konsulentselskapet Emerge hvor langt kunstig intelligens (KI) har kommet i å generere realistiske, digitale kloner av ekte personer.

— Bare de siste ukene har vi sett enorme fremskritt. Du trenger bare tre til ti minutter med video fra et iPhone-kamera, så kan tilgjengelige programmer lage en velfungerende klon, sier Heltne.

På kort tid har KI-kloner utviklet seg til å kunne interagere med mennesker i sanntid, som vil si at de kan delta aktivt i samtaler og svare direkte på spørsmål. Teknologiutviklingen byr på mange muligheter, men også utfordringer.

— Det var nylig en sak i Norge hvor svindlere brukte seks måneder på å etablere kontakt med en virksomhet via e-post for å bygge tillit og troverdighet, før de deretter arrangerte videomøter med KI-kloner. Det førte til et tap på 11 millioner kroner, sier Stang-Auseth.

Hun viser også til et lignende og mer kjent tilfelle i Hong Kong, hvor selskapet Arup ble svindlet for 25 millioner dollar ved bruk av KI-kloner i videomøter. En ansatt trodde han var i et videomøte med økonomisjefen og flere andre kollegaer. Det viste seg at alle i møtet var KI-kloner.

— Bare det siste året har svindel ved hjelp av KI-kloner økt med 300 prosent. Det betyr at sikkerheten du hadde i fjor ikke nødvendigvis er god nok i dag, sier hun.

— Det finnes ikke lenger noe som umiddelbart avslører bedrageriet. Du vil ikke kunne se det, sier Stang-Auseth.

Ifølge den nyeste risikorapporten fra Nasjonal Sikkerhetsmyndighet (NSM), er ondsinnede aktører mer komplekse og dynamiske enn noensinne. De anbefaler blant annet at ansatte må gjøres kjent med trusler og risiko for sosial manipulasjon som bruker KI-generert innhold.

Stang-Auseth forteller at den største utfordringen er å skape nok bevissthet rundt problemet. Hun forteller at man er mest utsatt for slike angrep når man ikke følger med. Likevel påpeker hun at det ikke er opp til hver enkelt ansatt i en virksomhet å beskytte seg selv.

— Vi må kunne stole på IT-systemene vi bruker. IT-avdelingene har en stor del av ansvaret for å skape kontrollrutiner som legger til rette for trygghet, sier hun.

Hun forteller at virksomheter først og fremst må ha sterkere kontroll og oversikt over hvem som deltar på møter. Det er for eksempel mulig å legge til funksjoner på videoplattformer der man kan gradere konfidensialiteten til et møte.

— De samme møtene som vi har bak lukkede dører i et kontorbygg, bør også være bak lukkede dører digitalt, sier hun.

Ifølge Stang-Auseth, er det er mest å hente i de bransjene som er mest utsatte for svindel ved hjelp av KI-kloner.

— Det er typisk bank, forsikring og samfunnskritiske roller. Vi vet for eksempel at 60 prosent av verdens banker selv rapporterer at de har vært utsatt for KI-angrep, sier hun.

Stang-Auseth understreker likevel at risikoen gjelder på tvers av alle sektorer. NSM rapporterer om cyberhendelser mot nærmest alle samfunnssektorer, og at mange ikke er bevisst sin egen betydning for svindlere. Mange har derfor ikke tilstrekkelig sikring av systemene sine.

Håkon Heltne i Emerge hjelper ulike virksomheter med å generere egne KI-kloner som kan brukes i intern og ekstern innholdsproduksjon.

— Teknologien er veldig nyttig når det gjelder innholdsproduksjon. I dag er det mange selskaper som sliter med å skape nok innhold, og innhold av høy nok kvalitet, sier Heltne.

Heltne har selv laget sin egen klon i enkelte Zoom-møter.

— Da er det fortsatt jeg som snakker, men KI-klonen min som sitter foran kamera med realistisk miming og kroppsspråk, sier han.

Heltne mener det er lurt at bedrifter blir komfortable med teknologien slik at man forstår hvor lett det lar seg gjøre, men også hvor lett det er å la seg lure.

—Ta kontroll over din egen KI-klon før noen andre gjør det, sier Heltne til publikumet på seminaret.

Ihrene Ohnstad deltok på frokostseminaret, og jobber som Salesforce-konsulent i Stretch. Hun kommer regelmessig til arrangementene for å holde meg oppdatert på teknologifronten.

— Jeg er generelt ganske positiv til utviklingen som kommer med kunstig intelligens, sier hun.

Selv om hun ikke har erfaring med KI-kloner, er hun nysgjerrig på hvordan teknologien fungerer.

— Jeg tenkte først og fremst at jeg skulle få lære hvordan teknologien blir brukt i dag, men jeg var ikke klar over at risikoen for svindel ved hjelp av KI-kloner var så stor, sier hun.