Kilden kjønnsforskning.no har på oppdrag frå Likestillings- og diskrimineringsombodet kartlagt norsk forsking på kunstig intelligens med kjønns- og likestillingsperspektiv.
Trine Rogg Korsvik er ein av forfattarane bak rapporten og jobbar til dagleg som seniorrådgivar i Kilden. Ho peiker på at ein allereie har sett at kunstig intelligens har ført til diskriminering i andre land.
– Ein har mellom anna sett uheldige sider ved ansiktsattkjenning, automatisering av arbeid og målretta reklame. Kunstig intelligens er eit tema som rører ved mange samfunnsområde, fortel Korsvik.
Digital kompetanse
For mange menneske kan digitaliseringa by på utfordringar. Nokre slit med dei nye løysingane og risikerer å ikkje få hjelpa dei treng. Korsvik trekkjer fram Nav-søkjarar som blei sitjande utan inntekt under koronapandemien fordi dei hadde fylt ut skjemaa feil.
– Digitale verktøy kan vere nyttige og tidssparande. Men alle har ikkje den same digitale kompetansen, og for enkelte kan dei nye løysingane føre til tap av rettar.
Korsvik meiner at sosiale forhold speler ei viktig rolle i korleis teknologien påverkar oss. Ho framhevar at digitaliseringa kan føre til større sosiale forskjellar.
– Ifølgje ei av undersøkingane vi har sett på, svarer kvinner at dei har mindre kjennskap til kunstig intelligens og algoritmar. Spesielt eldre kvinner med låg utdanning svarer dei veit lite om dette, mens menn oftare hevdar dei både har god kjennskap til og meiningar om algoritmar, seier ho.
– Så må det leggjast til at desse tala stammar frå eigenrapportering, der dataa er baserte på kva folk sjølv meiner om eigen kjennskap.
Korsvik understrekar at det handlar om meir enn kjønnsforskjellar. Sosial klasse, utdanningsnivå og økonomiske ressursar speler òg inn.
– I Noreg har digitaliseringa komme lenger enn i dei fleste andre land. Om lag 90 prosent av befolkninga har internett. Samtidig må ein hugse at 10 prosent ikkje har det og står i fare for å falle utanfor. Spesielt eldre folk utan utdanning og menneske med dårleg helse er utsette.
Eit anna problem kan vere kjønnsbalansen i IKT-faget. Kunstig intelligens er eit mannsdominert felt, med nærare 80 prosent menn blant utviklarane.
– Det er heller ikkje mange kvinnelege studentar i IKT-utdanningane. Fordi teknologien blir prega av dei som lagar han, trekkjer fleire forskarar fram den manglande kjønnsbalansen i IKT-sektoren som eit likestillingsproblem, seier Korsvik.
Dataskeivskap
Inga Strümke er fysikar og jobbar i Simula, der ho mellom anna forskar på kunstig intelligens. Ho saknar ein offentleg debatt rundt utviklinga.
– Vi slit litt med å kome i gang med debatten i Noreg. Dette er fordi vi framleis har relativt liten bruk av kunstig intelligens. Derfor er det lite å forske på, fortel ho.
– Det ein kan og bør gjere, er å sjå på planleggingsprosessane hos dei som arbeider med å implementere kunstig intelligens, særleg i det offentlege. Forskinga treng meir empiri, men vi må vere realistiske. Vi har endå ikkje nok erfaring til å sjå klare tendensar.
Er likestilling eit relevant tema når ein diskuterer kunstig intelligens?
– Absolutt. Kunstig intelligens kan både forbetre og forverre likestillinga. Algoritmane føreser framtida basert på fortida. Dei er baserte på menneskelege data som må samlast inn. Og folk er jo diskriminerande, så kunstig intelligens kan reprodusere fordommane våre. Dermed treng ein endringar viss ein vil sjå ei forbetring, forklarer Strümke.
Ho påpeiker at det generelt sett finst meir data om menn. Til dømes finst det fleire bilete av menn enn av kvinner på nettet, og ein har meir medisinsk data om menn. Det kan føre til skeivskapar i korleis brukarar blir behandla.
– Det er ikkje lett å kompensere for dette. Ein kan samle inn meir data om kvinner, eller ein kan gi meir verdi til eksisterande data om kvinner, seier ho.
– Ideen om at menn lagar «mannleg» kunstig intelligens, er feil. Den kunstige intelligensen blir styrt av dataa, ikkje av kven som har laga han. Samtidig er det, som med alt anna, viktig med mangfald. Ikkje berre når det gjeld kjønn, men alle typar mangfald. Meir mangfald, i dette tilfellet fleire kvinnelege utviklarar, aukar moglegheita for å få fram fleire perspektiv.
Strümke meiner det er viktig å sjå på korleis dei digitale løysingane påverkar åtferda vår.
– Selskap som Instagram, YouTube og Facebook tilset åtferdspsykologar som skal få deg til å bruke meir tid på tenestene. Maskinlæring består av to grunnpilarar: data og mål. I dette tilfellet er dataa åtferda di, og målet er å få deg til å sjå og klikke meir. Heldigvis verkar det som at folk begynner å bli klare over dette.
Avslutningsvis påpeiker Strümke:
– Vi treng folkeopplysning og meir offentleg debatt om korleis kunstig intelligens påverkar samfunnet. Denne kunnskapsoversikta er eit bidrag til det.
Dette er ei forkorta utgåve av ein artikkel frå Kilden kjønnsforskning.no. Du kan lese heile artikkelen her: Kan kunstig intelligens påvirke likestillingen?