Vil bruke KI-avatar til å gjøre barneavhør bedre

Kan kunstig intelligens gjøre voksne bedre på å avhøre barn?

Det tror barnepsykolog Ragnhild Klingenberg Røed. I saker som gjelder vold, seksuelle overgrep eller omsorgssvikt mot barn, er barnets egen forklaring ofte det aller viktigste beviset, forteller hun.

Men kvaliteten på avhør av barn er i dag alt for lav, og spørsmålene som stilles er for dårlige. Det kan gi alvorlige konsekvenser.

– Barn kan bli feilaktig plassert bort fra familien, eller bli sendt tilbake til voldelige hjem, sier Røed.

Bevisstheten om svakheter i barneavhør i Norge ble særlig vekket av Bjugn-saken på 90-tallet, der en barnehageansatt først ble tiltalt og senere frifunnet. Også Silje-saken, kjent fra NRK-dokumentaren «Drapet i akebakken», viser hvordan ledende spørsmål, press og andre avhørsfeil kan få fatale følger.

– Barn er vant til at voksne vet svaret, og kan forsøke å svare «riktig». Det øker risikoen for feilinformasjon, forteller Røed, som selv har jobbet på Barnehuset, hvor barn som er involvert i straffesaker møter politiet til avhør.

Forskning viser at åpne spørsmål gir best og mest troverdig informasjon fra barn. «Fortell meg hva du har kommet for å snakke om», for eksempel. Røeds analyser viser imidlertid at bare 2 prosent av spørsmålene i politiets avhør og 8 prosent av barnevernets spørsmål til barn er åpne.

I stedet dominerer lukkede spørsmål (ja/nei), ledende spørsmål («Du ble vel redd da han ropte til deg?») og såkalte tvugne valg («Var hånden hennes over eller under genseren din?»).

– Hvorfor stilles det så få åpne spørsmål?
– Måten å spørre på er en unaturlig måte å snakke på, i alle fall i den vestlige verden.

Politiet har i dag et utdanningsprogram for avhør av barn, men behovet for å øve og vedlikeholde ferdighetene etter utdannelsen er stort, forteller Røed.

Røed har deltatt i et forskningsprosjekt ved OsloMet og SimulaMet, som skal bedre kvaliteten på avhør gjennom bruk av kunstig intelligens. Forskerne har utviklet en KI-basert avatar, som oppfører seg og svarer som et barn i en avhørssituasjon. Slik kan politi og barnevernsansatte trene seg på realistiske avhør.

I sitt doktorgradsprosjekt testet Røed chatbotten på barnevernstudenter. Etter flere runder med øving viste resultatene en tydelig økning i antall åpne spørsmål, særlig hos dem som fikk tilbakemelding underveis. Der halvparten ikke stilte ett eneste åpent spørsmål i første runde, stilte de samme studentene opptil fem etter tre øvingsøkter.

– Det er lovende å se at å øve med en realistisk avatar faktisk gir en betydelig økning i ønsket type spørsmål, forteller Røed.

Gjennom selskapet Innsikt.AI markedsføres nå den KI-baserte avataren for praktisk bruk. Verktøyet er stadig under utvikling, blant annet gjennom en grafisk 2D-modell hvor brukere kan se «barnets» ansiktsuttrykk og kroppsspråk på skjermen.

Men ikke alle er like optimistiske.

Michael Riegler, professor i kunstig intelligens ved SimulaMet, var med på å utvikle avataren, men trakk seg ut da prosjektet gikk over til å bli selskapet Innsikt AI. Riegler advarer mot å ta teknologien i bruk for tidlig.

– Vi må snakke mer om etikk, sikkerhet og hvordan data håndteres før vi slipper dette løs, sier Riegler.

KI-forskeren er bekymret for at generativ KI tas i bruk i stadig mer sensitive situasjoner, og peker på at teknologien stadig kan hallusinere og produsere feilinformasjon.
– Det kan være små detaljer som navn eller datoer, men i denne typen saker kan slike feil være kritiske.

Han anerkjenner at KI-avataren kan gi svært tiltrengt bedring for barneavhør, men er likevel bekymret på et mer generelt plan.

– De som jobber med dette vil det beste for barna, men jeg syns ikke teknologien er moden ennå, sier han.

Riegler er særlig bekymret for at deler av bransjen går enda lengre enn det InnsiktAI gjør i bruken av KI. Forskere ved NYU Shanghai og Åbo Akademi presenterte nylig en studie  som indikerer at spørsmålsforslag fra kunstig intelligens kan forbedre kvaliteten på avhør i sanntid.

Gunn Astrid Baugerud er gründer av Innsikt.AI. Hun forteller at de har tatt en rekke etiske hensyn i arbeidet med avataren.

– Det er jo en kjent utfordring at KI kan hallusinere. Derfor har vi hele tiden lagt inn faglige rammer og tett samarbeid mellom psykologer og datateknologer i utviklingen.

Det er den psykologiske fagkunnskapen som er grunnlaget for avataren.

– Vår jobb er å ta forskningen videre, slik at fagfolk faktisk kan bruke dette i praksis.

Også Baugerud er svært kritisk til å ta i bruk KI i reelle intervjuer.

– Vi har vært veldig tydelige på at avataren kun er et treningsverktøy. Det er en veldig stor forskjell fra reelle avhør. KI kan aldri overta for mennesket her.

Avataren har imidlertid stort potensiale for å bedre barns rettssikkerhet, mener hun.

– Vi mangler kompetanse på å snakke med barn, men ved hjelp av nye treningsmetoder kan vi gjøre et kvantesprang innenfor hele avhørsfeltet, sier hun.

Verktøyet blir nå tatt i bruk av flere etater og kommuner i Norge, deriblant Politihøgskolen, i tillegg til internasjonale samarbeid med aktører i blant annet Canada, Australia og Ukraina, sistnevnte i samarbeid med Senter for Menneskerettigheter.

Nylig ble InnsiktAI valgt ut som ett av fire norske selskaper til EU-programmet Women TechEU, som gir støtte til kvinnelige teknologigründere.

Selskapet understreker imidlertid at avataren ikke skal ut på et åpent marked, hvor den kan bli misbrukt av folk med uetiske hensikter.