Prateroboter og kritisk bruk

En praterobot er et dataprogram som er laget for å simulere en samtale med et menneske. Den genererer tekst basert på instruksene vi gir den. Motoren til en praterobot er en stor språkmodell (på engelsk: LLM – large language modell). Store språkmodeller er drevet av kunstig intelligens.

Forskere og programmerere utvikler store språkmodeller. De har trent datamaskiner til å finne sammenhenger i millioner av samtaler og tekster fra internett. Store språkmodeller består av billioner av sammenhenger og mønstre i språk.

Beregner sammenhengen mellom ord

En praterobot forstår ikke instruksen (inndata) vi gir den. Den kan sammenliknes med en kalkulator som ikke forstår tallene den får. Kalkulatoren er, helt enkelt, en maskin som er programmert til å regne sammen tall etter matematiske regler.

Når du skriver inn en instruks til en praterobot, deler språkmodellen opp instruksen din i ord, tegn og symboler og analyserer sammenhengene og beregner det mest sannsynlige språklige svaret (utdata) på sekunder.

Maskiner som er gode på språk

Store språkmodeller er trent på enorme mengder gode treningsdata. De største språkmodellene er trent på store deler av tekster og samtaler på internett. Språkmodellene kan få datamaskiner til å gjengi svar på et så naturlig språk at svaret gir mening for oss. Vi kan til og med få følelsen av å snakke med et ekte menneske. Men en praterobot vet aldri hvem du er, eller hva den har svart. Det er vi som gir mening til svarene den gir oss.

Mulighet for flerspråklighet

En praterobot er flerspråklig: Den kan svare på ulike skriftspråk på tvers av alle tenkelige tema. Spør du om en oversettelse av "Mitt liv som hund" til arabisk, svarer den "حياتي ككلب (Hayati Kakelb)". Du kan også be om en brødoppskrift på engelsk, en forklaring på fotosyntesen på tysk eller anbefalinger til hva som er verdt et besøk i Madrid, på norsk.

Riktig svar eller hallusinering?

Mange svar fra prateroboter vil være til god hjelp, men det kommer også svar som ikke gir mening, eller som ikke er til å stole på. Selv om en praterobot vanligvis har god allmennkunnskap, gir den ofte unøyaktige eller feil svar. Den er ikke trent opp til å kunne skille fakta fra feil. Svarer den feil, har den rett og slett ikke klart å analysere instruksen din riktig, eller den klarer ikke å sette sammen orddeler, tegn og symboler på en god måte. Da sier vi at prateroboten hallusinerer.

Ikke en søkemotor, ikke en kilde

Skal du jobbe med faktakunnskap, kildesøk og innhenting av informasjon, bruk en søkemotor og faktiske kilder. En praterobot er noe annet enn en søkemotor, og den er noe annet enn en kilde. Både nettsøk og språkmodeller er drevet av KI-teknologi, men KI-teknologien er utviklet for ulike formål. En søkemotor henter fram eksisterende kilder og innhold på nettet ved hjelp av søkeord og systematisk kategorisering. En praterobot, derimot, genererer helt nye tekster.

Moderering og sensur

Det er viktig å vite at de store språkmodellene som blir brukt i prateroboter, også har et lag sensur. I de fleste tjenestene i Europa, vil prateroboter normalt ikke svare på spørsmål som handler om

• personlig informasjon

• politiske råd

• ulovlige aktiviteter

• skadelige handlinger

• upassende innhold (pornografi, for eksempel)

• medisinsk rådgivning

• eksistensielle spørsmål

Prateroboter gir svar med innebygde skjevheter, stereotypier og fordommer. Fordi språkmodeller og bildemodeller er trent på enorme mengder eksisterende innhold, vil også skjevheter og fordommer i samtaler, tekster og bilder være registrert og trent på av språk- og bildemodeller. Fordommer som ligger i datamaterialet KI-modeller er trent på, går i arv. Du vil kunne finne skjevheter i svar du får fra bilde- og prateroboter.

Fordommer i bildegenerering

Det kan være enklere å oppdage stereotypier og fordommer når du ber om bilder i en praterobot, enn i tekstsvar.

Instruksen for bildene her er "Kan du lage et bilde av en sykepleier?". Bildene er laget med bildegeneratoren DALL-E, høsten 2024.

Resultatet viser sykepleiere som kvinner i alle fire bildene. Forklaringen er trolig at mesteparten av de tusenvis av bildene av sykepleiere som DALL-E er blitt trent på, har vist hvite kvinner.

Virkeligheten er jo også slik, at de fleste sykepleiere er kvinner. Men vi ønsker oss et likestilt samfunn, der både menn og kvinner kan være sykepleiere.

Skjevhetene i bilder fra en bildegenerator er kulturelle og historiske, og de vil ikke alltid være i tråd med ønskede samfunnsendringer.

Fordommer i tekstgenerering

Tekster fra prateroboter vil på samme måte kunne inneholde kulturelle og historiske skjevheter og fordommer. I tekster kan disse være vanskeligere å oppdage.

Nedenfor ser du hvordan et generelt spørsmål i ChatGPT 3.5 om hva en god frokost er, gir et annet svar enn hva en god norsk frokost er. Når vi vet at roboten er utviklet av ingeniører med verdier fra Palo Alto i California, kan vi legge merke til at den lister opp frokosttips som hører mer hjemme på vestkysten av USA enn for eksempel Paris i Frankrike.

Du kan bruke en praterobot til en rekke ulike oppgaver. Du kan for eksempel

• få hjelp til idéutvikling

• forenkle vanskelige tekster

• få forklart temaer du synes er vanskelige, på enklere måter

• gi roboten en instruks om å teste deg i et gitt tema i form av en dialog

• øve deg i gloser og enkle samtaler i fremmedspråk

• få tips om hvordan du strukturerer en tekst

• be om å få tilbakemeldinger på tekster du har skrevet

I alle tilfeller må du huske på at en praterobot ikke er en god lærer, og at den faktisk ikke kan nynorsk. Den hjelper deg kun et stykke på veien.

Bruker du prateroboter samtidig med andre i klasserommet, kan dere diskutere formuleringer på instrukser og sammenlikne og vurdere svarene dere får. Kanskje finner dere ut hvilke instrukser som fungerer best, og når det er nyttig og mindre nyttig å bruke en praterobot. Gjennom erfaringsdeling kommer dere nærmere en god, felles praksis.

Her følger noen generelle tips til hva dere kan bli gode på gjennom erfaringsdeling.

• Kildekritikk: Er svarene er til å stole på? Sjekk alternative kilder! Kunnskap i fag og bevissthet om egen læring er viktig for å vurdere svarene fra en praterobot.

• Presisjon: Bruker dere sentrale og etablerte fagbegreper, er det større sannsynlighet for at dere får gode faglige svar.

• Fordommer: Sjekk om svaret fra roboten er vinklet, altså gir et skeivt eller uønsket bilde av virkeligheten.

• Språk: Har prateroboten forstått språket deres, altså norsk? Språkmodellene er blitt trent på mange flere engelske tekster enn norske tekster. Hvis dere stiller spørsmålet på engelsk, vil dere kunne oppdage at dere får et annet – og ofte bedre – svar.

• Forståelse for kontekst: Har dere gitt roboten god nok informasjon om konteksten for spørsmålet? Ofte svarer en praterobot upresist dersom konteksten er uklar.

• Oppfølgingsspørsmål: Still roboten oppfølgingsspørsmål, og du vil kunne få avklart upresise svar.

hallusinering

når prateroboten "lyver" og generer noe som ikke stemmer

instruks

en kommando du bruker for å genere KI-innhold (tekst, bilde, video eller lyd)

kildekritikk

det å sjekke alternative kilder til informasjonen fra en praterobot og ta hensyn til personvern, opphavsrett og bærekraft

praterobot

dataprogram som er laget for å simulere en samtale med et menneske, og som genererer tekst basert på instruksene vi gir den

token

den minste enheten språkmodeller har maskinlært å analysere, det kan være deler av ord, hele ord, tegnsetting og symboler

store språkmodeller

kunstig-intelligens-teknologi laget gjennom maskinlæring basert på enormt store tekstmengder (nesten hele internett)