"Deepfakes" og kildekritikk av videomateriale

I videoen ser du hvordan mimikk og tale til nyhetsanker Yama Wolasmal er blitt manipulert, slik at det ser ut som om han snakker samisk og mandarin.

Deepfake er et nytt begrep knyttet til falske nyheter, også kjent som "fake news". Deepfake kommer av uttrykkene "deep learning" og "fake". Programmer som gjør maskinlæring mulig ved hjelp av kunstig intelligens (AI), blir brukt for få et ansikt til kunne uttrykke noe verbalt som ansiktet i utgangspunktet ikke har uttrykt.

Ennå er det ikke avdekket en alvorlig sak der deepfake har vært opprinnelsen. Men nyhetsbyråer, som for eksempel Reuters, er årvåkne og frykter at AI-videoteknologi brukt for å lage deepfakes, skal få alvorlig konsekvenser.

AI-drevet videoteknologi manipulerer ansiktet på en person og gir inntrykk av at personen har sagt noe som vedkommende slett ikke har sagt. Det fins flere typer programvare av denne typen – noen kan til og med lastes gratis ned fra nett.

Programvaren lærer datamaskinen å blande sammen videoen bedre og bedre for hver runde den tar. En slik runde kalles for epoch – hele datasettet blir kjørt en runde. En epoch tilsvarer at datamaskinen har trent én gang. Jo flere ganger et datasett kjøres gjennom datamaskinen, jo bedre blir resultatet.

Myndigheter, nyhetsbyråer og -redaksjoner er bekymret for hvilke konsekvenser manipulasjon av videotale kan få. I januar 2020 innfører Facebook til og med nye regler for manipulert innhold. Dersom en video er redigert og syntetisert for å manipulere tale, og at AI og maskinlæring er blitt brukt, vil innholdet bli fjernet. Unntaket vil gjelde satire og parodier. Facebook sitt mål er å avdekke deepfakes automatisk.

Kildegranskning av videomateriale er i utgangspunktet allerede et profesjonelt journalistisk spesialfelt, og nyhetsbyrået Reuters forteller at sjekkpunktene for ikke-profesjonelt videomateriale også kan brukes til å avsløre deepfakes.

Etter at smarttelefonen ble allemannseie, er det vanlig å se ikke-profesjonelt videomateriale i tv-nyheter. Det er positivt med autentiske og nære bilder fra viktige hendelser, for både nyhetsbyråer og -redaksjoner, og ikke minst for publikum. Samtidig krever det særlig grundig etterforskning av troverdigheten til kildene bak denne typen videomateriale.

1. Omvendt bildesøk med et nøkkelbilde fra et videoklipp er mulig. Det finnes fremdeles ikke teknologi for omvendt søk på videoklipp.
2. Se etter og verifiser geografisk kjennetegn fra videoopptakene. Journalister kan sendes ut i feltet, men granskning av kart og alternative bildekilder kan også gjøres.
3. Undersøk metadata i videofiler. Hva sier de? Dersom videoen er fersk, er det lite sannsynlig at metadataene er tuklet med.
4. Undersøk og sammenlign med bilde- og videomateriale fra samme hendelse, men fra andre kilder.
5. Kjør en dyptgående og systematisk spørsmålsrunde til kilden for videomaterialet. Formålet her er å sette materialet i kontekst og forstå motivet for vedkommendes deling av innholdet.
6. Få rådgivning hos eksperter på området og tema for videomateriale. Sørg for samarbeid med andre om å verifisere kilder.