Algoritmene prioriterer spredning av løgner fylt med sinne og hat fremfor fakta. Slike meldinger kan være spesielt skadelige i samfunn som er preget av splittelse og konflikt.
Dette sa den filippinske journalisten Maria Ressa da hun tok imot Nobels fredspris for sin kamp for ytringsfriheten i Oslo i desember 2021.
I talen sin sa hun også at sosiale medieselskaper som Facebook er en trussel mot demokratiet når de mislykkes i å stoppe spredning av hat og desinformasjon.
Sosiale medier i krig og konflikt
I perioder med krig og konflikt blir det å skape overbevisende fortellinger og forklaringsmodeller helt avgjørende. Det er mange som har interesse av å holde tilbake informasjon, vri informasjonsflyten eller produsere falsk informasjon.
Sosiale medier gjør at mange flere bidrar med innhold, og det kan være vanskelig å være sikker på hvor informasjonen kommer fra, og om den er sann. Bilder kan være hentet fra andre steder eller en annen tid enn de gir seg ut for. Til og med bilder fra videospill eller filmer kan presenteres som om det er virkelighet.
Konspirasjonsteorier og hatefulle ytringer
Konspirasjonsteorier, falske nyheter, hatefulle ytringer og oppfordringer til vold er kommunikasjonstyper som trives i sosiale medier. Meldinger kan spre seg raskt, og det er vanskelig å trekke tilbake innhold som viser seg å være feil, eller som oppfordrer til vold. Når store deler av en befolkning har lav eller ingen utdanning, slik som i Etiopia, kan graden av kildekritisk kompetanse være lavere, og folk godtar lettere innholdet de blir servert.
Når sosiale medieplattformers algoritmer prioriterer spredning av løgner fylt med sinne og hat framfor fakta, er det dårlig nytt for alle samfunn. Sosiale medier kan være med på å nøre opp under polarisering og skape splittelse og et skarpere samtaleklima. Det rammer land og regioner i krig og konflikt aller sterkest.
Folkemordet i Rwanda i 1994
Vi vet fra historien at dehumanisering av folkegrupper ofte starter med ord og begreper som forbereder grunnen for overgrep.
På det afrikanske kontinentet er Rwanda et dystert historisk eksempel. Der spilte radiostasjonen Mille Collines (De tusen åser) en viktig rolle i å umenneskeliggjøre folkegruppa tutsier i forkant av et av historiens verste folkemord i 1994.
Tutsiene ble blant annet kalt for "kakerlakker" – ekle insekter og skadedyr som ikke hadde livets rett. Det hatefulle språket i kombinasjon med oppfordring til vold resulterte i at nærmere en million mennesker ble drept i løpet av knappe tre måneder.
Med sosiale medier blir spredning av informasjon forsterket.
Situasjonen i Etiopia
Afrikas nest mest folkerike land Etiopia, på Afrikas Horn, er et eksempel på hvordan sosiale medier kan brukes til å fyre opp under konflikter og bidra til vold.
Etter mange år med demokratiske utfordringer og dårlige vilkår for ytringsfriheten var det store forventninger til Abiy Ahmed da han kom til makten som statsminister i april 2018. Noe av det første han gjorde, var å slutte fred med nabolandet Eritrea etter tjue år med krig og konflikt. Dette var avgjørende for at Abiy ble tildelt Nobels fredspris i 2019.
De fredelige tidene varte ikke lenge. Allerede året etter beordret den etiopiske statsministeren en militær offensiv mot opprørere i Tigray-regionen, og kort tid etter startet borgerkrigen.
Abiy er redd for at Tigray skal få for sterkt selvstyre og ønsker å samle landets folkegrupper til et sterkere og mer sentralisert Etiopia. Flere tusen er drept i borgerkrigen, og omtrent to millioner er internt fordrevne i landet. Sivile tigrayer skal ha blitt utsatt for vold, overgrep og fordrivelse i det FN kaller etnisk rensing. I tillegg til konflikten på bakken foregår det en regelrett informasjonskrig i sosiale medier.
Drapene i Aykel
I konflikten i Etiopia finnes det eksempler som peker på en sammenheng mellom oppfordringer til vold i sosiale medier og voldelige handlinger på bakken.
Facebook-brukeren Northern Patriot Tewodros Kebede Ayo oppfordret i august 2021 til vold mot ei etiopisk minoritetsgruppe. I et innlegg på Facebook angrep han den etniske gruppen qimant, kalte dem tystere, og skrev at "opprydningen må fortsette". To dager senere ble et titalls mennesker med qimant-bakgrunn dratt ut av hjemmene sine og regelrett slaktet i gatene i Aykel.
De som sto bak, var trolig medlemmer av den fryktede Fano-militsen, ei nasjonalistisk paramilitær gruppe kjent for å ha deltatt i en rekke grufulle overgrep. Drapene ble rapportert av nyhetskanalen Al Jazeera, og to frittstående kilder bekreftet ugjerningene.
Les mer om hendelsene i Etiopia:
Artikkel, Bistandsaktuelt: Amnesty: Etiopiske og eritreiske soldater brukte voldtekt som våpen
Facebook – en "uansvarlig" distributør av informasjon
Vi kan ikke være sikre på sammenhengen mellom oppfordringen til Facebook-brukeren Northern Patriot Tewodros Kebede Ayo om å "rydde opp" og de bestialske drapene i Aykel. Men vi vet at Facebook flere måneder tidligere visste at denne Facebook-kontoen var sentral i et nettverk som oppfordret til voldelige handlinger i Etiopia.
Gjennom en lekkasje fra den tidligere Facebook-ansatte Frances Haugen fikk offentligheten et sjeldent innsyn i hva Facebook visste. Haugen tok med seg mer enn 10 000 interne dokumenter da hun sluttet i selskapet i mai 2021.
Dokumentene viser at Facebook etter en intern evaluering i mars 2021 ble oppfordret til å stenge denne kontoen og en rekke lignende kontoer som spredde hat, men det ble ikke gjort. På samme måte som Maria Ressa anklager Frances Haugen Facebook for å prioritere å tjene penger framfor å beskytte sårbare mennesker, siden Facebooks algoritmer er justert for å utløse sterke reaksjoner.
Til refleksjon:
Hva tenker du kan være grunnen(e) til at Facebook ikke reagerer på meldinger om at kontoer aktivt brukes til å spre hat og løgner?
Les mer om Facebooks håndtering av hatytringer i Etiopia i Mail & Guardian.
Viktige begreper:
dehumanisering
etnisk rensing