Praterobotar og kritisk bruk

Korleis fungerer ein praterobot?

Ein praterobot er eit dataprogram som er laga for å simulere ein samtale med eit menneske. Han genererer tekst basert på instruksane vi gir han. Motoren til ein praterobot er ein stor språkmodell (på engelsk: LLM – large language modell). Store språkmodellar er drivne av kunstig intelligens.

Forskarar og programmerarar utviklar store språkmodellar. Dei har trent datamaskiner til å finne samanhengar i millionar av samtalar og tekstar frå internett. Store språkmodellar består av billionar av samanhengar og mønster i språk.

Bereknar samanhengen mellom ord

Ein praterobot forstår ikkje instruksen (inndata) vi gir han. Han kan samanliknast med ein kalkulator som ikkje forstår tala han får. Kalkulatoren er, heilt enkelt, ei maskin som er programmert til å rekne saman tal etter matematiske reglar.

Når du skriv inn ein instruks til ein praterobot, deler språkmodellen opp instruksen din i ord, teikn og symbol og analyserer samanhengane og bereknar det mest sannsynlege språklege svaret (utdata) på få sekund.

Maskiner som er gode på språk

Store språkmodellar er trente på enorme mengder gode treningsdata. Dei største språkmodellane er trente på store delar av tekstar og samtalar på internett. Språkmodellane kan få datamaskiner til å gi att svar på eit så naturleg språk at svaret gir meining for oss. Vi kan til og med få kjensla av å snakke med eit ekte menneske. Men ein praterobot veit aldri kven du er, eller kva han har svart. Det er vi som gir meining til svara han gir oss.

Moglegheit for fleirspråklegheit

Ein praterobot er fleirspråkleg: Han kan svare på ulike skriftspråk på tvers av alle tenkelege tema. Spør du om ei omsetjing av "Mitt liv som hund" til arabisk, svarer han "حياتي ككلب (Hayati Kakelb)" Du kan òg be om ei brødoppskrift på engelsk, ei forklaring på fotosyntesen på tysk eller tilrådingar til kva som er verd eit besøk i Madrid, på norsk.

Rett svar eller hallusinering?

Mange svar frå praterobotar vil vere til god hjelp, men det kjem òg svar som ikkje gir meining, eller som ikkje er til å stole på. Sjølv om ein praterobot vanlegvis har god allmennkunnskap, gir han ofte unøyaktige eller feil svar. Han er ikkje trent opp til å kunne skilje faktum frå feil. Svarer han feil, har han rett og slett ikkje klart å analysere instruksen din rett, eller han klarer ikkje å setje saman orddelar, teikn og symbol på ein god måte. Då seier vi at prateroboten hallusinerer.

Ikkje ein søkemotor, ikkje ei kjelde

Skal du jobbe med faktakunnskap, kjeldesøk og innhenting av informasjon, bruk ein søkemotor og faktiske kjelder. Ein praterobot er noko anna enn ein søkemotor, og han er noko anna enn ei kjelde. Både nettsøk og språkmodellar er drivne av KI-teknologi, men KI-teknologien er utvikla for ulike formål. Ein søkemotor hentar fram eksisterande kjelder og innhald på nettet ved hjelp av søkeord og systematisk kategorisering. Ein praterobot, derimot, genererer heilt nye tekstar.

Moderering og sensur

Det er viktig å vite at dei store språkmodellane som blir brukte i praterobotar, òg har eit lag sensur. I dei fleste tenestene i Europa, vil praterobotar normalt ikkje svare på spørsmål som handlar om

• personleg informasjon

• politiske råd

• ulovlege aktivitetar

• skadelege handlingar

• upassande innhald (pornografi, til dømes)

• medisinsk rådgiving

• eksistensielle spørsmål

Fordommar i datamateriale

Praterobotar gir svar med innebygde skeivskapar, stereotypiar og fordommar. Fordi språkmodellar og biletmodellar er trente på enorme mengder eksisterande innhald, vil òg skeivskapar og fordommar i samtalar, tekstar og bilete vere registrerte og trente på av språk- og biletmodellar. Fordommar som ligg i datamaterialet KI-modellar er trente på, går i arv. Du kan finne skeivskapar i svar du får frå bilet- og praterobotar.

Fordommar i biletgenerering

Det kan vere enklare å oppdage stereotypiar og fordommar når du ber om bilete i ein praterobot, enn i tekstsvar.

Instruksen for bileta her er "Kan du lage eit bilete av ein sjukepleiar?". Bileta er laga med biletgeneratoren DALL-E, hausten 2024.

Resultatet viser sjukepleiarar som kvinner i alle fire bileta. Forklaringa er truleg at mesteparten av dei tusenvis av bileta av sjukepleiarar som DALL-E har blitt trent på, har vist kvite kvinner.

Verkelegheita er jo òg slik, at dei fleste sjukepleiarar er kvinner. Men vi ønsker oss eit likestilt samfunn, der både menn og kvinner kan vere sjukepleiarar.

Skeivskapane i bilete frå ein biletgenerator er kulturelle og historiske, og dei vil ikkje alltid vere i tråd med ønskte samfunnsendringar.

Fordommar i tekstgenerering

Tekstar frå praterobotar vil på same måte kunne innehalde kulturelle og historiske skeivskapar og fordommar. I tekstar kan desse vere vanskelegare å oppdage.

Nedanfor ser du korleis eit generelt spørsmål i ChatGPT 3.5 om kva ein god frukost er, gir eit anna svar enn det ein god norsk frukost er. Når vi veit at roboten er utvikla av ingeniørar med verdiar frå Palo Alto i California, kan vi legge merke til at han listar opp frukosttips som høyrer meir heime på vestkysten av USA enn til dømes Paris i Frankrike.

Kritisk bruk av praterobotar i læring

Du kan bruke ein praterobot til ei rekke ulike oppgåver. Du kan til dømes

• få hjelp til idéutvikling

• forenkle vanskelege tekstar

• få forklart tema du synest er vanskelege, på enklare måtar

• gi roboten ein instruks om å teste deg i eit gitt tema i form av ein dialog

• øve deg i gloser og enkle samtalar i framandspråk

• få tips om korleis du strukturerer ein tekst

• be om å få tilbakemeldingar på tekstar du har skrive

I alle tilfelle må du hugse på at ein praterobot ikkje er ein god lærar, og at han faktisk ikkje kan nynorsk. Han hjelper deg berre eit stykke på vegen.

Kritisk bruk i klasserommet

Bruker du praterobotar samtidig med andre i klasserommet, kan de diskutere formuleringar på instruksar og samanlikne og vurdere svara de får. Kanskje finn de ut kva instruksar som fungerer best, og når det er nyttig og mindre nyttig å bruke ein praterobot. Gjennom erfaringsdeling kjem de nærare ein god, felles praksis.

Her følger nokre generelle tips til kva de kan bli gode på gjennom erfaringsdeling.

• Kjeldekritikk: Er svara er til å stole på? Sjekk alternative kjelder! Kunnskap i fag og forståing for eiga læring er viktig for å vurdere svara frå ein praterobot.

• Presisjon: Bruker de sentrale og etablerte fagomgrep, er det meir sannsynleg at de får gode faglege svar.

• Fordommar: Sjekk om svaret frå roboten er vinkla, altså om det gir eit skeivt eller uønskt bilete av verkelegheita.

• Språk: Har prateroboten forstått språket dykkar, altså norsk? Språkmodellane har blitt trente på mange fleire engelske tekstar enn norske tekstar. Viss de stiller spørsmålet på engelsk, vil de kunne oppdage at de får eit anna – og ofte betre – svar.

• Forståing for kontekst: Har de gitt roboten god nok informasjon om konteksten for spørsmålet? Ofte svarer ein praterobot upresist dersom konteksten er uklar.

• Oppfølgingsspørsmål: Still roboten oppfølgingsspørsmål, og du kan få avklart upresise svar.

Omgrepsliste

hallusinering

når prateroboten "lyg" og generer noko som ikkje stemmer

instruks

ein kommando du bruker for å generere KI-innhald (tekst, bilete, video eller lyd)

kjeldekritikk

det å sjekke alternative kjelder til informasjonen frå ein praterobot og ta omsyn til personvern, opphavsrett og berekraft

praterobot

dataprogram som er laga for å simulere ein samtale med eit menneske, og som genererer tekst basert på instruksane vi gir det

token

den minste eininga språkmodellar har maskinlært å analysere, det kan vere delar av ord, heile ord, teiknsetjing og symbol

store språkmodellar

kunstig-intelligens-teknologi laga gjennom maskinlæring basert på enormt store tekstmengder (nesten heile internett)