Hopp til innhald
Fagartikkel

Praterobotar og kritisk bruk

Kor mykje stoler du på praterobotar? Les om kva ein praterobot er, kva avgrensingar han har, og korleis du tenker kritisk når du tek han i bruk som verktøy.
Video: Medietilsynet / CC BY-NC-ND 4.0

Kva er ein praterobot?

Ein praterobot er ei maskin vi kan kommunisere med, ved å bruke det naturlege språket vårt. Vi kan stille han spørsmål og gi han instruksar og få svar. Det vi skriv inn i prateroboten, kallar vi for .

Ikkje ein søkemotor

Ein praterobot er noko anna enn ein søkemotor. Ein søkemotor hentar fram eksisterande innhald på nettet ved hjelp av søkeord og systematisk kategorisering. Ein praterobot, derimot, genererer heilt nye tekstar med utgangspunkt i det han har maskinlært er eit naturleg menneskespråk. Vi opplever at han er god til å svare og prate. Han fører samtalar og gir råd, men genererer alltid nye tekstar etter bestemde mønster.

Samanheng mellom stavingar

Motoren til ein praterobot er ein språkmodell. Det er eit dataprogram som er trent til å finne og lage samanhengar mellom stavingane i enorme mengder tekst. Dei største språkmodellane, som ChatGTP, Gemini og Copilot, er trente på heile internett.

Når du gir ein språkmodell spørsmål og instruksar, reknar han seg fram til det mest sannsynlege svaret og ryddar opp i korleis informasjonen blir lagd fram. Og fordi han har trent seg på så mykje tekst, er han god til å gi att svar som liknar svar menneske gir, og som er lette for oss å forstå.

Vi må likevel hugse på at ein praterobot er ei maskin som ikkje forstår kva ho sjølv skriv. Det er vi som gir meining til tekstane prateroboten lagar. Svara har som regel ei form som er truverdig, derfor kan det fort skje at vi tenker vi kan stole på innhaldet i eitt og alt.

Kva kan du bruke praterobotar til?

Du kan bruke ein praterobot til ei rekke ulike oppgåver. Du kan få hjelp til idémyldring, du kan forenkle vanskelege tekstar, eller du kan få forklart tema du synest er vanskelege, på enklare måtar.

Ein praterobot kan òg vere nyttig i arbeid med å skape tekstar. Han kan gi deg tips om korleis du strukturerer ein tekst, og du kan få tilbakemeldingar på tekstar du har skrive. Du kan òg få hjelp til å øve på gloser, eller kva med å føre ein samtale på eit enkelt nivå og øve deg i framandspråk?

Jo meir du bruker ein praterobot, jo betre blir du til å skrive leietekstar som gir deg gode og relevante svar.

Hallusinering

Sjølv om ein praterobot vanlegvis har god allmennkunnskap, gir han ofte unøyaktige eller feil svar. Det er fordi han er trent til å berekne sannsynet for korleis stavingar i språk følger etter kvarandre. Han er ikkje trent til å skilje fakta frå feil. Svarer han feil, har han rett og slett ikkje klart å berekne rett samanheng mellom stavingar som løysing på instruksen din. Teknologien er ny og umoden. Om nokre år kjem vi til å kunne stole betre på praterobotar.

Når praterobotar svarer feil, seier vi at dei hallusinerer. Skal du jobbe med faktakunnskap, kjeldesøk og innhenting av informasjon, er det mykje betre å bruke ein søkemotor.

Avgrensingar på innhald

Det kan vere lagt avgrensingar på kva type spørsmål praterobotar får lov til å svare på. Nokre slike avgrensingar kan gjelde

  • personleg informasjon

  • politiske råd

  • ulovlege aktivitetar

  • skadelege handlingar

  • upassande innhald

  • medisinsk rådgiving

  • eksistensielle spørsmål

Reflekter

Plukk ut to av punkta over. Kvifor tenker du det kan vere avgrensingar akkurat her?

Kulturell vridnad

God frukost

BRUKAR: Hei på deg! Kan du gi meg et lite tips til en god frokost?

ELEVHJELPAR: Absolutt! Å spise en sunn og næringsrik frokost er en viktig start på dagen. Her er noen tips til en god frokost:

  1. Havregrøt med friske bær eller nøtter. Havregrøt er en god kilde til fiber, noe som gir deg en god start på dagen. Du kan også legge til friske bær eller nøtter for å øke næringsinnholdet.

  2. Smoothie bowl. En smoothie bowl er en god måte å få i seg en rekke næringsstoffer og vitaminer på en enkel måte. Du kan legge til frukt, grønnsaker, yoghurt og nøtter for å lage en deilig og sunn frokost.

  3. Egg og grønnsaker. Egg er en god kilde til protein, og grønnsaker gir deg en god dose med vitaminer. Du kan lage en omelett med grønnsaker som paprika, løk og spinat for en sunn og mettende frokost.

  4. Knekkebrød med avocado og egg. Knekkebrød er en god kilde til fiber, og avocado og egg gir deg en god dose med sunne fettstoffer og protein. Du kan også legge til litt krydder for å gi smaken en ekstra piff.

Husk at en sunn frokost kan hjelpe deg med å holde deg mett og fokusert gjennom hele dagen. Lykke til! (OpenAI, 2023)

Ein amerikansk robot gir amerikanske perspektiv

I dømet over har vi spurt om å få "tips til ein god frukost". Men er ikkje svaret frå roboten meir "tips til ein sunn frukost"? Og liknar eigentleg desse frukosttipsa på noko vi sjølve hadde komme på?

Når vi veit at roboten er trent på amerikanske tekstar og utvikla av ingeniørar med verdiar frå California, kan vi sjå i opplisting av frukosttips at dei har tilhøyrselen sin nærare vestkysten av USA enn Paris i Frankrike, eller ei øy i Indonesia for den del. Kva tenker du svaret ville ha vore om vi hadde stilt spørsmålet til norsk robot?

Vi må forvente at det kan vere ein viss kulturell vridnad i svara ein praterobot gir, det gjeld særleg om vi stiller upresise spørsmål.

God frukost i Noreg

BRUKAR: Kan du gi meg et tips til en god norsk frokost?

ELEVHJELPAR: Ja, absolutt! En god norsk frokost kan være grovbrød med brunost og en kopp kaffe eller te. Brunost er en ost som er laget av geit- eller kumelk og har en søt smak. Det er en populær ost i Norge og er ofte spist til frokost eller kveldsmat.

Grovbrød er en sunnere variant av brød som er laget av fullkornsmel og inneholder mer fiber enn vanlig brød. Du kan også legge til litt smør eller syltetøy på brødet for ekstra smak. En kopp kaffe eller te vil gi deg en liten koffein-boost og hjelpe deg med å våkne opp og starte dagen på en god måte. (OpenAI, 2023)

Vurder svar frå prateroboten

Når du tek i bruk praterobotar, må du alltid vurdere svara du får. Er innhaldet i svaret nyttig og relevant for det du er ute etter? Er innhaldet rett og påliteleg?

1. Språk

Har prateroboten eigentleg forstått språket ditt, altså norsk? Språkmodellane har blitt trente på mange fleire engelske tekstar enn norske tekstar. Dersom du stiller spørsmålet ditt på engelsk, vil du kunne oppdage at du får eit anna, og gjerne betre, svar.

2. Forståing for konteksten

Har du gitt roboten god nok informasjon om konteksten for spørsmålet ditt? Ofte svarer ein praterobot upresist dersom konteksten er uklar.

3. Oppfølgingsspørsmål

Still roboten oppfølgingsspørsmål, og du kan få avklart upresise svar.

4. Eigen ståstad

Kanskje har du erfaringar, haldningar og personlege verdiar som bidreg til at du får svar i ei bestemd retning? Spør deg sjølv korleis det kan verke inn på svara du får.

5. Presisjon

Bruker du sentrale og etablerte fagomgrep, er det større sannsyn for at du får gode faglege svar.

6. Skeivskap

Svar frå ein robot kan vere vinkla, altså gi eit skeivt eller uønskt bilete av verkelegheita.

7. Kjeldekritikk

Er du heilt sikker på at svara er til å stole på? Sjekk alternative kjelder!

Kjelde

Azure OpenAI. (2023). NDLA praterobot: Elevhjelp (9. oktober versjon) [Stor språkmodell GPT-3.5 Turbo]. NDLA. https://ndla.no/minndla

Relatert innhald

Fagstoff
Korleis jobbe med leietekstar

Du må tenke på presist språk, rolle og tone, kontekst, format, rekkefølge og oppfølgingsspørsmål når du lagar leietekstar til praterobotar.