Prateroboter og kritisk bruk

En praterobot er en maskin vi kan kommunisere med, ved å bruke det naturlige språket vårt. Vi kan stille den spørsmål og gi den instrukser og få svar. Det vi skriver inn i prateroboten, kaller vi for ledetekster.

Ikke en søkemotor

En praterobot er noe annet enn en søkemotor. En søkemotor henter fram eksisterende innhold på nettet med hjelp av søkeord og systematisk kategorisering. En praterobot, derimot, genererer helt nye tekster med utgangspunkt i det den har maskinlært er et naturlig menneskespråk. Vi opplever at den er god til å svare og prate. Den fører samtaler og gir råd, men genererer alltid nye tekster etter bestemte mønstre.

Sammenheng mellom stavelser

Motoren til en praterobot er en språkmodell. Det er et dataprogram som er trent til å finne og lage sammenhenger mellom stavelsene i enorme mengder tekst. De største språkmodellene, som ChatGTP, Gemini og Copilot, er trent på hele internett.

Når du gir en språkmodell spørsmål og instrukser, regner den seg fram til det mest sannsynlige svaret og rydder opp i hvordan informasjonen legges fram. Og fordi den har trent seg på så mye tekst, er den god til å gjengi svar som likner svar mennesker gir, og som er lette for oss å forstå.

Vi må likevel huske på at en praterobot er en maskin som ikke forstår hva den selv skriver. Det er vi som gir mening til tekstene den lager. Svarene har som regel en form som er troverdig, derfor kan det fort skje at vi tenker vi kan stole helt og holdent på innholdet.

Hva kan du bruke prateroboter til?

Du kan bruke en praterobot til en rekke ulike oppgaver. Du kan få hjelp til idémyldring, du kan forenkle vanskelige tekster, eller du kan få forklart temaer du synes er vanskelige, på enklere måter.

En praterobot kan også være nyttig i arbeid med å skape tekster. Den kan gi deg tips om hvordan du strukturerer en tekst, og du kan få tilbakemeldinger på tekster du har skrevet. Du kan også få hjelp til å øve på gloser, eller hva med å føre en samtale på et enkelt nivå og øve deg i fremmedspråk?

Jo mer du bruker en praterobot, jo bedre blir du til å skrive ledetekster som gir deg gode og relevante svar.

Hallusinering

Selv om en praterobot vanligvis har god allmennkunnskap, gir den ofte unøyaktige eller feil svar. Det er fordi den er trent til å beregne sannsynligheten for hvordan stavelser i språk følger etter hverandre. Den er ikke trent til å skille fakta fra feil. Svarer den feil, har den rett og slett ikke klart å beregne riktig sammenheng mellom stavelser som løsning på din instruks. Teknologien er ny og umoden. Om noen år kommer vi til å kunne stole bedre på prateroboter.

Når prateroboter svarer feil, sier vi at de hallusinerer. Skal du jobbe med faktakunnskap, kildesøk og innhenting av informasjon, er det mye bedre å bruke en søkemotor.

Begrensninger på innhold

Det kan være lagt begrensninger på hvilken type spørsmål prateroboter får lov til å svare på. Noen slike begrensninger kan gjelde

• personlig informasjon

• politiske råd

• ulovlige aktiviteter

• skadelige handlinger

• upassende innhold

• medisinsk rådgivning

• eksistensielle spørsmål

Kulturell vridning

En amerikansk robot gir amerikanske perspektiver

I eksempelet over har vi spurt om å få "tips til en god frokost". Men er ikke svaret fra roboten mer "tips til en sunn frokost"? Og likner egentlig disse frokosttipsene på noe vi selv hadde kommet på?

Når vi vet at roboten er trent på amerikanske tekster og utviklet av ingeniører med verdier fra California, kan vi se i opplisting av frokosttips at de har sin tilhørighet nærmere vestkysten av USA enn Paris i Frankrike, eller ei øy i Indonesia for den del. Hva tenker du svaret ville ha vært om vi hadde stilt spørsmålet til norsk robot?

Vi må forvente at det kan være en viss kulturell vridning i svarene en praterobot gir, det gjelder særlig om vi stiller upresise spørsmål.

Når du tar i bruk prateroboter, må du alltid vurdere svarene du får. Er innholdet i svaret nyttig og relevant for det du er ute etter? Er innholdet riktig og pålitelig?

1. Språk

Har prateroboten egentlig forstått språket ditt, altså norsk? Språkmodellene er blitt trent på mange flere engelske tekster enn norske tekster. Hvis du stiller spørsmålet ditt på engelsk, vil du kunne oppdage at du får et annet, og gjerne bedre, svar.

2. Forståelse for konteksten

Har du gitt roboten god nok informasjon om konteksten for spørsmålet ditt? Ofte svarer en praterobot upresist dersom konteksten er uklar.

3. Oppfølgingsspørsmål

Still roboten oppfølgingsspørsmål, og du vil kunne få avklart upresise svar.

4. Eget ståsted

Kanskje har du erfaringer, holdninger og personlige verdier som bidrar til at du får svar i en bestemt retning? Spør deg selv hvordan det kan virke inn på svarene du får.

5. Presisjon

Bruker du sentrale og etablerte fagbegreper, er det større sannsynlighet for at du får gode faglige svar.

6. Skjevhet

Svar fra en robot kan være vinklet, altså gi et skeivt eller uønsket bilde av virkeligheten.

7. Kildekritikk

Er du helt sikker på at svarene er til å stole på? Sjekk alternative kilder!