Hopp til innhold

Fagstoff

Prateroboter og kritisk bruk

Hvor mye stoler du på prateroboter? Les om hva en praterobot er, hvilke begrensninger den har, og hvordan du tenker kritisk når du tar den i bruk som verktøy.

Hva er en praterobot?

En praterobot er en maskin vi kan kommunisere med, ved å bruke det naturlige språket vårt. Vi kan stille den spørsmål og gi den instrukser og få svar. Det vi skriver inn i prateroboten, kaller vi for .

Ikke en søkemotor

En praterobot er noe annet enn en søkemotor. En søkemotor henter fram eksisterende innhold på nettet med hjelp av søkeord og systematisk kategorisering. En praterobot, derimot, genererer helt nye tekster med utgangspunkt i det den har maskinlært er et naturlig menneskespråk. Vi opplever at den er god til å svare og prate. Den fører samtaler og gir råd, men genererer alltid nye tekster etter bestemte mønstre.

Sammenheng mellom stavelser

Motoren til en praterobot er en språkmodell. Det er et dataprogram som er trent til å finne og lage sammenhenger mellom stavelsene i enorme mengder tekst. De største språkmodellene, som ChatGTP, Gemini og Copilot, er trent på hele internett.

Når du gir en språkmodell spørsmål og instrukser, regner den seg fram til det mest sannsynlige svaret og rydder opp i hvordan informasjonen legges fram. Og fordi den har trent seg på så mye tekst, er den god til å gjengi svar som likner svar mennesker gir, og som er lette for oss å forstå.

Vi må likevel huske på at en praterobot er en maskin som ikke forstår hva den selv skriver. Det er vi som gir mening til tekstene den lager. Svarene har som regel en form som er troverdig, derfor kan det fort skje at vi tenker vi kan stole helt og holdent på innholdet.

Hva kan du bruke prateroboter til?

Du kan bruke en praterobot til en rekke ulike oppgaver. Du kan få hjelp til idémyldring, du kan forenkle vanskelige tekster, eller du kan få forklart temaer du synes er vanskelige, på enklere måter.

En praterobot kan også være nyttig i arbeid med å skape tekster. Den kan gi deg tips om hvordan du strukturerer en tekst, og du kan få tilbakemeldinger på tekster du har skrevet. Du kan også få hjelp til å øve på gloser, eller hva med å føre en samtale på et enkelt nivå og øve deg i fremmedspråk?

Jo mer du bruker en praterobot, jo bedre blir du til å skrive ledetekster som gir deg gode og relevante svar.

Hallusinering

Selv om en praterobot vanligvis har god allmennkunnskap, gir den ofte unøyaktige eller feil svar. Det er fordi den er trent til å beregne sannsynligheten for hvordan stavelser i språk følger etter hverandre. Den er ikke trent til å skille fakta fra feil. Svarer den feil, har den rett og slett ikke klart å beregne riktig sammenheng mellom stavelser som løsning på din instruks. Teknologien er ny og umoden. Om noen år kommer vi til å kunne stole bedre på prateroboter.

Når prateroboter svarer feil, sier vi at de hallusinerer. Skal du jobbe med faktakunnskap, kildesøk og innhenting av informasjon, er det mye bedre å bruke en søkemotor.

Begrensninger på innhold

Det kan være lagt begrensninger på hvilken type spørsmål prateroboter får lov til å svare på. Noen slike begrensninger kan gjelde

  • personlig informasjon

  • politiske råd

  • ulovlige aktiviteter

  • skadelige handlinger

  • upassende innhold

  • medisinsk rådgivning

  • eksistensielle spørsmål

Reflekter

Plukk ut to av punktene over. Hvorfor tenker du det kan være begrensninger akkurat her?

Kulturell vridning

God frokost

BRUKER: Hei på deg! Kan du gi meg et lite tips til en god frokost?

ELEVHJELPER: Absolutt! Å spise en sunn og næringsrik frokost er en viktig start på dagen. Her er noen tips til en god frokost:

  1. Havregrøt med friske bær eller nøtter. Havregrøt er en god kilde til fiber, noe som gir deg en god start på dagen. Du kan også legge til friske bær eller nøtter for å øke næringsinnholdet.

  2. Smoothie bowl. En smoothie bowl er en god måte å få i seg en rekke næringsstoffer og vitaminer på en enkel måte. Du kan legge til frukt, grønnsaker, yoghurt og nøtter for å lage en deilig og sunn frokost.

  3. Egg og grønnsaker. Egg er en god kilde til protein, og grønnsaker gir deg en god dose med vitaminer. Du kan lage en omelett med grønnsaker som paprika, løk og spinat for en sunn og mettende frokost.

  4. Knekkebrød med avocado og egg. Knekkebrød er en god kilde til fiber, og avocado og egg gir deg en god dose med sunne fettstoffer og protein. Du kan også legge til litt krydder for å gi smaken en ekstra piff.

Husk at en sunn frokost kan hjelpe deg med å holde deg mett og fokusert gjennom hele dagen. Lykke til! (OpenAI, 2023)

En amerikansk robot gir amerikanske perspektiver

I eksempelet over har vi spurt om å få "tips til en god frokost". Men er ikke svaret fra roboten mer "tips til en sunn frokost"? Og likner egentlig disse frokosttipsene på noe vi selv hadde kommet på?

Når vi vet at roboten er trent på amerikanske tekster og utviklet av ingeniører med verdier fra California, kan vi se i opplisting av frokosttips at de har sin tilhørighet nærmere vestkysten av USA enn Paris i Frankrike, eller ei øy i Indonesia for den del. Hva tenker du svaret ville ha vært om vi hadde stilt spørsmålet til norsk robot?

Vi må forvente at det kan være en viss kulturell vridning i svarene en praterobot gir, det gjelder særlig om vi stiller upresise spørsmål.

God frokost i Norge

BRUKER: Kan du gi meg et tips til en god norsk frokost?

ELEVHJELPER: Ja, absolutt! En god norsk frokost kan være grovbrød med brunost og en kopp kaffe eller te. Brunost er en ost som er laget av geit- eller kumelk og har en søt smak. Det er en populær ost i Norge og er ofte spist til frokost eller kveldsmat.

Grovbrød er en sunnere variant av brød som er laget av fullkornsmel og inneholder mer fiber enn vanlig brød. Du kan også legge til litt smør eller syltetøy på brødet for ekstra smak. En kopp kaffe eller te vil gi deg en liten koffein-boost og hjelpe deg med å våkne opp og starte dagen på en god måte. (OpenAI, 2023)

Vurder svar fra prateroboten

Når du tar i bruk prateroboter, må du alltid vurdere svarene du får. Er innholdet i svaret nyttig og relevant for det du er ute etter? Er innholdet riktig og pålitelig?

1. Språk

Har prateroboten egentlig forstått språket ditt, altså norsk? Språkmodellene er blitt trent på mange flere engelske tekster enn norske tekster. Hvis du stiller spørsmålet ditt på engelsk, vil du kunne oppdage at du får et annet, og gjerne bedre, svar.

2. Forståelse for konteksten

Har du gitt roboten god nok informasjon om konteksten for spørsmålet ditt? Ofte svarer en praterobot upresist dersom konteksten er uklar.

3. Oppfølgingsspørsmål

Still roboten oppfølgingsspørsmål, og du vil kunne få avklart upresise svar.

4. Eget ståsted

Kanskje har du erfaringer, holdninger og personlige verdier som bidrar til at du får svar i en bestemt retning? Spør deg selv hvordan det kan virke inn på svarene du får.

5. Presisjon

Bruker du sentrale og etablerte fagbegreper, er det større sannsynlighet for at du får gode faglige svar.

6. Skjevhet

Svar fra en robot kan være vinklet, altså gi et skeivt eller uønsket bilde av virkeligheten.

7. Kildekritikk

Er du helt sikker på at svarene er til å stole på? Sjekk alternative kilder!

Kilde

Azure OpenAI. (2023). NDLA praterobot: Elevhjelp (9. oktober versjon) [Stor språkmodell GPT-3.5 Turbo]. NDLA. https://ndla.no/minndla

Relatert innhold

Du må tenke på presist språk, rolle og tone, kontekst, format, rekkefølge og oppfølgingsspørsmål når du lager ledetekster til prateroboter.

CC BY-SASkrevet av Albertine Aaberge.
Sist faglig oppdatert 04.01.2024

Læringsressurser

Å lære med prateroboter