Etiske diskusjonar om kunstig intelligens
Sjå foredraget "Eit kunstig intelligent samfunn" før du gjer oppgåvene på denne sida.
Når ein utviklar kunstig intelligens, finst det to framgangsmåtar: top-down (teoridriven) og bottom-up (datadriven). Ved teoridriven utvikling programmerer ein reglar og ønskt åtferd inn i maskina. Ein kan til dømes lære ei maskin å spele sjakk ved å programmere inn reglane for spelet og mange ulike strategiar for å vinne.
I datadriven utvikling gir ein datamaskina eit mål og lèt ho sjølv utvikle reglane for å nå målet. Her programmerer ein berre inn dei mest grunnleggjande reglane, eller ingen reglar i det heile, og lèt maskina analysere datasett for å lære korleis eit system fungerer. Skal ein lære ei maskin å spele sjakk på denne måten, programmerer ein berre inn grunnreglane for spelet og lèt maskina spele sjakk mot ein kopi av seg sjølv, slik at maskina sjølv kan finne dei beste strategiane for å vinne.
I dag har både offentlege etatar og private bedrifter byrja å bruke kunstig intelligens for å behandle søknader. Nav behandlar enkle søknader der reglane er klare på denne måten, og nokre bankar har byrja å behandle lånesøknader med kunstig intelligens, slik at kundane kan få svar med éin gong. I dei fleste tilfella er det brukt teoridriven utvikling: Ein har programmert inn alle reglane for korleis søknader skal behandlast, og maskina gir dermed svar ut frå desse reglane.
Denne top-down-tilnærminga fungerer ikkje i saker der avgjerda må byggje på skjønn fordi ein skal ta omsyn til individuelle forhold. I slike saker kan vi tenkje oss at det er mogleg å bruke datadriven utvikling. Maskina analyserer eit datasett med tidlegare saker og kjem fram til sine eigne reglar, baserte på korleis tidlegare saker har blitt behandla og på parametrane desse sakene har til felles.
Kva for nokre etiske utfordringar har det å bruke ei bottom-up-tilnærming på saksbehandling?
Les artikkelen "Etiske retningslinjer for IT-bransjen" (lenkje nedst på sida). Ta utgangspunkt i dei etiske prinsippa for utvikling og bruk av kunstig intelligens i Noreg som er omtalt der.
Gå saman to og to og diskuter kva for prinsipp som blir utfordra av denne tilnærminga.
No skal de diskutere nokre forslag om korleis ein kan bruke kunstig intelligens i rettssystemet, noko som kan spare samfunnet for pengar.
De skal jobbe i grupper på fire. Les forslaga i boksen nedanfor.
Først skal to og to frå kvar gruppe jobbe saman. Det eine paret skal finne argument for forslaga, det andre skal finne argument mot. Ta stilling til alle forslaga, og noter ned argumenta dykkar.
Deretter samlast gruppa. Legg no fram argumenta dykkar for kvarandre.
Spel stein-saks-papir om kva par som får starte.
Medan det eine paret legg fram argumenta sine, skal det andre paret vere stille, men dei kan notere ned motargument.
Når begge para har lagt fram argumenta sine, kan de byrje å diskutere motargument. De skal no prøve å bli samde.
Når de er ferdige med å diskutere, eller etter ei gitt tid, skal de seie frå til læraren kva de har konkludert med: Er de blitt samde, og om kva i så fall? Eller klarte de ikkje å bli samde?
Læraren oppsummerer kva dei ulike gruppene har svart og kva flest i klassen var samde om.
Forslag til bruk av KI i rettssystemet
Viss eit KI-system analyserer alle rettssaker frå dei siste 10–15 åra, kan datamaskina med stor nøyaktigheit føreseie utfallet av ei rettssak, berre ho får nok informasjon. Kunstig intelligens kan derfor erstatte dommarar og jury. Ein treng berre å fylle inn all informasjon om saka i eit skjema og få informasjonen analysert ved hjelp av kunstig intelligens. Ein annan fordel ved å bruke KI er at dommen kan kunngjerast i løpet av få minutt.
I filmen Minority Report blir det brukt teknologi kombinert med synske menneske for å føresjå kriminelle hendingar og arrestere menneske for handlingar dei enno ikkje har gjort. I dag kan vi bruke kunstig intelligens til å føresjå kriminelle handlingar eller oppdage menneske som kjem til å utføre kriminelle handlingar, og det med stor presisjon. Menneske som mest sannsynleg vil gjere seg skuldige i kriminelle handlingar bør derfor få eit obligatorisk psykiatrisk behandlingstilbod, retta mot den typen kriminalitet dei risikerer å utføre.
Vi kan bruke kunstig intelligens til å føreseie for personar heilt ned i ungdomsskulealder om dei står i fare for å bli avhengige av alkohol eller narkotika, basert på informasjon om familieforhold, skulefråvær og ordens- og åtferdskarakterar. Vi bør derfor overvake alkoholforbruket til desse ungdommane og gi dei førebyggjande behandlingstilbod for å unngå at dei blir avhengige og kostar samfunnet store summar.
Relatert innhald
Det er viktig for bedrifter og IT-avdelingar å fastsetje etiske retningslinjer for å påverke åtferda og kulturen i bedrifta.