"Deepfaker" og kildekritikk av videomateriale

Deepfake er et nytt begrep knyttet til falske nyheter, også kjent som "fake news". Deepfake kommer av uttrykkene "deep learning" og "fake". Det er en teknologi som innebærer at programvare drevet av kunstig intelligens kan brukes til å manipulere ansikter. Dermed man lage videoer med kjente personer som kommer med utsagn de aldri har ytret i virkeligheten.

Ennå er det ikke avdekket en alvorlig sak der en deepfake har vært opprinnelsen. Men nyhetsbyråer, som for eksempel Reuters, er årvåkne og frykter at KI-videoteknologi brukt for å lage deepfaker skal få alvorlig konsekvenser.

KI-drevet videoteknologi kan manipulere ansiktet på en person og gi inntrykk av at personen har sagt noe som vedkommende slett ikke har sagt i virkeligheten. Det finnes flere slike typer programvare – noen kan til og med lastes gratis ned fra nett.

Programvaren lærer datamaskinen å blande sammen videoen bedre og bedre for hver runde den tar. En slik runde kalles for epoch – hele datasettet blir kjørt en runde. En epoch tilsvarer at datamaskinen har trent én gang. Jo flere ganger et datasett kjøres gjennom datamaskinen, jo bedre blir resultatet.

Eksempel på deepfake av nyhetsanker

I videoen ser du hvordan mimikken og talen til nyhetsanker Yama Wolasmal er blitt manipulert, slik at det ser ut som om han snakker samisk og mandarin.

Myndigheter, nyhetsbyråer og -redaksjoner er bekymret for hvilke konsekvenser manipulasjon av videotale kan få. I januar 2020 innførte Facebook nye regler for manipulert innhold. Dersom en video er redigert og syntetisert for å manipulere tale, og dersom KI og maskinlæring er blitt brukt, vil innholdet bli fjernet. Unntaket vil gjelde satire og parodier. Facebook sitt mål er å avdekke deepfaker automatisk.

Kildegranskning av videomateriale er i utgangspunktet allerede et profesjonelt journalistisk spesialfelt, og nyhetsbyrået Reuters forteller at sjekkpunktene for ikke-profesjonelt videomateriale også kan brukes til å avsløre deepfaker.

Etter at smarttelefonen ble allemannseie, er det vanlig å se ikke-profesjonelt videomateriale i tv-nyheter. Det er positivt med autentiske og nære bilder fra viktige hendelser, for både nyhetsbyråer og -redaksjoner, og ikke minst for publikum. Samtidig krever det særlig grundig etterforskning av troverdigheten til kildene bak denne typen videomateriale.

Framgangsmåte

1. Omvendt bildesøk med et nøkkelbilde fra et videoklipp er mulig. Det finnes fremdeles ikke teknologi for omvendt søk på videoklipp.
2. Se etter og verifiser geografiske kjennetegn fra videoopptakene. Journalister kan sendes ut i feltet, men gransking av kart og alternative bildekilder kan også gjøres.
3. Undersøk metadata i videofiler. Hva slags informasjon gir de? Dersom videoen er fersk, er det lite sannsynlig at metadataene er tuklet med.
4. Undersøk og sammenlikn med bilde- og videomateriale fra samme hendelse, men fra andre kilder.
5. Kjør en dyptgående og systematisk spørsmålsrunde til kilden for videomaterialet. Formålet her er å sette materialet i kontekst og forstå motivet for vedkommendes deling av innholdet.

6. Få råd fra eksperter på området om temaet i videomaterialet.

7. Sørg for samarbeid med andre om å verifisere kilder.