Kilden kjønnsforskning.no har på oppdrag fra Likestillings- og diskrimineringsombudet kartlagt norsk forskning på kunstig intelligens med kjønns- og likestillingsperspektiv.
Trine Rogg Korsvik er en av forfatterne bak rapporten og jobber til daglig som seniorrådgiver i Kilden. Hun peker på at man allerede har sett at kunstig intelligens har ført til diskriminering i andre land.
– Man har blant annet sett uheldige sider ved ansiktsgjenkjenning, automatisering av arbeid og målrettet reklame. Kunstig intelligens er et tema som berører mange samfunnsområder, forteller Korsvik.
Digital kompetanse
For mange mennesker kan digitaliseringen by på utfordringer. Noen sliter med de nye løsningene og risikerer å ikke få hjelpen de trenger. Korsvik trekker fram Nav-søkere som ble sittende uten inntekt under koronapandemien fordi de hadde fylt ut skjemaene feil.
– Digitale verktøy kan være nyttige og tidsbesparende. Men alle har ikke den samme digitale kompetansen, og for enkelte kan de nye løsningene føre til rettighetstap.
Korsvik mener at sosiale forhold spiller en viktig rolle i hvordan teknologien påvirker oss. Hun framhever at digitaliseringen kan føre til større sosiale forskjeller.
– Ifølge en av undersøkelsene vi har sett på, oppgir kvinner å ha mindre kjennskap til kunstig intelligens og algoritmer. Spesielt eldre kvinner med lav utdanning svarer de vet lite om dette, mens menn oftere hevder de både har god kjennskap til og meninger om algoritmer, sier hun.
– Så må det legges til at disse tallene stammer fra egenrapportering, hvor dataene er basert på hva folk selv mener om egen kjennskap.
Korsvik understreker at det handler om mer enn kjønnsforskjeller. Sosial klasse, utdanningsnivå og økonomiske ressurser spiller også inn.
– I Norge har digitaliseringen kommet lenger enn i de fleste andre land. Om lag 90 prosent av befolkningen har internett. Samtidig må man huske at 10 prosent ikke har det og står i fare for å falle utenfor. Spesielt eldre folk uten utdanning og mennesker med dårlig helse er utsatte.
Et annet problem kan være kjønnsbalansen i IKT-faget. Kunstig intelligens er et mannsdominert felt, med nærmere 80 prosent menn blant utviklerne.
– Det er heller ikke mange kvinnelige studenter i IKT-utdanningene. Fordi teknologien preges av dem som lager den, trekker flere forskere fram den manglende kjønnsbalansen i IKT-sektoren som et likestillingsproblem, sier Korsvik.
Dataskjevhet
Inga Strümke er fysiker og jobber i Simula, hvor hun blant annet forsker på kunstig intelligens. Hun savner en offentlig debatt rundt utviklingen.
– Vi sliter litt med å komme i gang med debatten i Norge. Dette er fordi vi fremdeles har relativt liten bruk av kunstig intelligens. Derfor er det lite å forske på, forteller hun.
– Det man kan og bør gjøre, er å se på planleggingsprosessene hos dem som arbeider med å implementere kunstig intelligens, særlig i det offentlige. Forskningen trenger mer empiri, men vi må være realistiske. Vi har enda ikke nok erfaring til å se klare tendenser.
Er likestilling et relevant tema når man diskuterer kunstig intelligens?
– Absolutt. Kunstig intelligens kan både forbedre og forverre likestillingen. Algoritmene forutser framtida basert på fortida. De er basert på menneskelige data som må samles inn. Og folk er jo diskriminerende, så kunstig intelligens kan reprodusere fordommene våre. Dermed kreves det endringer hvis man vil se en forbedring, forklarer Strümke.
Hun påpeker at det generelt sett finnes mer data om menn. For eksempel finnes det flere bilder av menn enn av kvinner på nettet, og man har mer medisinsk data om menn. Det kan føre til skjevheter i hvordan brukere behandles.
– Det er ikke lett å kompensere for dette. Man kan samle inn mer data om kvinner, eller man kan gi mer verdi til eksisterende data om kvinner, sier hun.
– Ideen om at menn lager «mannlig» kunstig intelligens, er feil. Den kunstige intelligensen styres av dataene, ikke av hvem som har laget den. Samtidig er det, som med alt annet, viktig med mangfold. Ikke bare når det kommer til kjønn, men alle typer mangfold. Mer mangfold, i dette tilfellet flere kvinnelige utviklere, øker muligheten for å få fram flere perspektiver.
Strümke mener det er viktig å se på hvordan de digitale løsningene påvirker adferden vår.
– Selskap som Instagram, YouTube og Facebook ansetter atferdspsykologer som skal få deg til å bruke mer tid på tjenestene. Maskinlæring består av to grunnpilarer: data og mål. I dette tilfellet er dataene adferden din, og målet er å få deg til å se og klikke mer. Heldigvis virker det som at folk begynner å bli klar over dette.
Avslutningsvis påpeker Strümke:
– Vi trenger folkeopplysning og mer offentlig debatt om hvordan kunstig intelligens påvirker samfunnet. Denne kunnskapsoversikten er et bidrag til det.
Dette er en forkortet utgave av en artikkel fra Kilden, kjønnsforskning.no. Du kan lese hele artikkelen her: Kan kunstig intelligens påvirke likestillingen?