Etiske diskusjoner om kunstig intelligens
Se foredraget "Et kunstig intelligent samfunn" før du gjør oppgavene på denne siden.
Når en utvikler kunstig intelligens, fins det to framgangsmåter: top-down (teoridrevet) og bottom-up (datadrevet). Ved teoridrevet utvikling programmerer en regler og ønsket oppførsel inn i maskinen. En kan for eksempel lære en maskin å spille sjakk ved å programmere inn reglene for spillet og mange ulike strategier for å vinne.
I datadrevet utvikling gir en datamaskinen et mål og lar den selv utvikle reglene for å nå målet. Her programmerer en kun inn de mest grunnleggende reglene, eller ingen regler i det hele tatt, og lar maskinen analysere datasett for å lære hvordan et system fungerer. Skal en lære en maskin å spille sjakk på denne måten, programmerer en kun inn grunnreglene for spillet og lar maskinen spille sjakk mot en kopi av seg selv, slik at maskinen selv kan finne de beste strategiene for å vinne.
I dag har både offentlige etater og private bedrifter begynt å bruke kunstig intelligens for å behandle søknader. Nav behandler enkle søknader der reglene er klare på denne måten, og noen banker har begynt å behandle lånesøknader med kunstig intelligens, slik at kundene kan få øyeblikkelig svar. I de fleste tilfeller er det brukt teoridrevet utvikling: En har programmert inn alle reglene for hvordan søknader skal behandles, og maskinen gir dermed svar ut fra disse reglene.
Denne top-down-tilnærmingen fungerer ikke i saker der avgjørelsen må bygge på skjønn fordi en skal ta hensyn til individuelle forhold. I slike saker kan vi tenke oss at det er mulig å bruke datadrevet utvikling. Maskinen analyserer et datasett med tidligere saker og kommer fram til sine egne regler, basert på hvordan tidligere saker har blitt behandlet og på parametrene disse sakene har til felles.
Hvilke etiske utfordringer har det å bruke en bottom-up-tilnærming på saksbehandling?
Les artikkelen "Etiske retningslinjer for IT-bransjen" (lenke nederst på siden). Ta utgangspunkt i de etiske prinsippene for utvikling og bruk av kunstig intelligens i Norge som er omtalt der.
Gå sammen to og to og diskuter hvilke prinsipper som blir utfordret av denne tilnærmingen.
Nå skal dere diskutere noen forslag om hvordan en kan bruke kunstig intelligens i rettssystemet, noe som kan spare samfunnet for penger.
Dere skal jobbe i grupper på fire. Les forslagene i boksen nedenfor.
Først skal to og to fra hver gruppe jobbe sammen. Det ene paret skal finne argumenter for forslagene, det andre skal finne argumenter mot. Ta stilling til alle forslagene, og noter ned argumentene deres.
Deretter samles gruppa. Legg nå fram argumentene deres for hverandre.
Spill stein-saks-papir om hvilket par som får starte.
Mens det ene paret legger fram argumentene sine, skal det andre paret være stille, men de kan notere ned motargumenter.
Når begge parene har lagt fram argumentene sine, kan dere begynne å diskutere motargumenter. Dere skal nå prøve å bli enige.
Når dere er ferdige med å diskutere, eller etter ei gitt tid, skal dere si fra til læreren hva dere har konkludert med: Er dere blitt enige, og om hva i så fall? Eller klarte dere ikke å bli enige?
Læreren oppsummerer hva de forskjellige gruppene har svart og hva flest i klassen var enige om.
Forslag til bruk av KI i rettssystemet
Hvis et KI-system analyserer alle rettssaker fra de siste 10–15 årene, kan datamaskinen med stor nøyaktighet forutsi utfallet av en rettssak, bare den får nok informasjon. Kunstig intelligens kan derfor erstatte dommere og jury. En trenger bare å fylle inn all informasjon om saken i et skjema og få den analysert ved hjelp av kunstig intelligens. En annen fordel ved å bruke KI er at dommen kan avsies i løpet av få minutter.
I filmen Minority Report brukes teknologi kombinert med synske mennesker for å forutse kriminelle hendelser og arrestere mennesker for handlinger de ennå ikke har begått. I dag kan vi bruke kunstig intelligens til å forutse kriminelle handlinger eller oppdage mennesker som kommer til å utføre kriminelle handlinger, og det med stor nøyaktighet. Mennesker som mest sannsynlig vil begå kriminelle handlinger bør derfor få et obligatorisk psykiatrisk behandlingstilbud, rettet mot den typen kriminalitet de risikerer å begå.
Vi kan bruke kunstig intelligens til å forutsi for personer helt ned i ungdomsskolealder om de står i fare for å bli avhengig av alkohol eller narkotika, basert på informasjon om familieforhold, skolefravær og orden- og oppførselskarakterer. Vi bør derfor overvåke alkoholforbruket til disse ungdommene og gi dem forebyggende behandlingstilbud for å unngå at de blir avhengige og koster samfunnet store summer.
Guoskevaš sisdoallu
Det er viktig for bedrifter og IT-avdelinger å fastsette etiske retningslinjer for å påvirke atferden og kulturen i bedriften.