Kan du stole på en praterobot?
Noen ganger er det lurt å spørre en praterobot om hjelp til å skrive, men ikke alltid. Lær mer om hva du bør vite før du stoler for mye på prateroboten!
Illustrasjonen er KI-generert.
Hva er en praterobot?
En praterobot (chatbot) er et dataprogram som prøver å snakke og skrive som et menneske. Robotene har ingen følelser eller tanker, men de kan svare veldig likt mennesker. Derfor er det mange som bruker prateroboter når de lurer på noe og vil ha raskt svar. Men er svarene fra prateroboter gode nok? Vi skal se nærmere på hva en praterobot kan og ikke kan.
Hvordan virker en praterobot?
Prateroboten bruker språkmodeller når den skal lage svar. Språkmodellene er trent på store mengder tekster på internett. Ved hjelp av maskinlæring har de lært seg hvilke ord som passer best sammen i en setning. Prateroboten vil foreslå de ordene som er mest sannsynlige.
Eksempel
Hvis du skriver "Katten sitter på ...", kan modellen foreslå ord som "taket" eller "stolen" fordi det er disse ordene som gjerne står i en slik setning.
Skjevheter i svarene
Språkmodellen har lært ved å trene på mange typer tekster. Den fungerer best på språk der det finnes mange tekster å øve på, for eksempel engelsk. Dette påvirker både hvordan prateroboten formulerer setninger, og ordene den velger.
I tillegg vil svarene bli påvirket av hvilke tekster som finnes, og hvilke verdier tekstene som helhet viser. Når veldig mange tekster handler om at sykepleiere er kvinner, vil det være et verdisyn prateroboten tar med seg i svaret. Hvis tekstene inneholder fordommer og mønstre som favoriserer noen mennesker, lærer roboten det også. Vi sier at svarene er skjeve eller har et bias.
Eksempler på fordommer og språkproblemer som kan oppstå
Når du skriver "en sykepleier", antar roboten at det er en kvinne.
Når du skriver "en leder" eller "ingeniør", antar den at det er en mann.
Roboten kan misforstå norske ord og uttrykk.
Roboten kan gi eksempler som ikke stemmer med norsk kultur eller samfunn.
Roboten kan vise én type kilde mer enn andre (for eksempel bare fra et bestemt land).
Roboten får bare med seg hva flertallet mener (majoriteten), ikke de som er i mindretall (minoriteten).
Roboten kan forenkle komplekse temaer på en måte som favoriserer én side i en debatt.
Ikke like god på alle språk
Det er altså språkene som det finnes mange tekster av på internett – spesielt engelsk – som er de viktigste kildene til praterobotene. Bruker du for eksempel swahili, som er et viktig afrikansk språk, finnes det langt færre tekster på internett på dette språket. Prateroboter er heller ikke gode på tigrinja. Vi kan si at noen språk er "små" på internett og derfor ikke gir praterobotene like mye å trene på.
Små temaer på internett
Hvis du ber roboten om å finne informasjon om et emne det finnes få digitale tekster om, blir også svarene du får, mer usikre. Roboten vil "gjette" dårligere, rett og slett fordi det er vanskeligere for den å finne mønstre den kan bruke i svaret til deg.
Eksempler på små temaer
dialektord på et lite sted
muntlige fortellinger
bedrifter som ikke har ei nettside
tradisjoner på små steder
informasjon om en lokal kjendis
Prateroboten hallusinerer
Prateroboten er laget slik at den alltid vil gi deg et svar. Hvis det ikke finnes et svar på det du spør om, vil den lage et svar som kan høres rett ut, men som ikke stemmer.
Hvis du ber roboten gi deg kilden den har brukt, kan den finne på kilden også. Når en praterobot finner på noe, kaller vi det for hallusinering.
Test ut og tenk over
Be roboten forklare samme ord på engelsk, norsk og på andre språk du kan, og sammenlikn svarene du får. Er de like gode?
Be roboten finne informasjon om et lite tema.
Hva kan skje hvis vi nesten bare får informasjon fra engelskspråklige kilder?
Kan jeg stole på en praterobot?
Det kan være nyttig å tenke på prateroboter som en venn som kan ganske mye, men som du ikke stoler helt på. Dette er viktig å huske på når du bruker en praterobot:
Den forstår ikke egentlig. Den bare gjetter hvilke ord som passer sammen.
Den kan gjøre feil eller gi uriktige fakta hvis den ikke har riktig eller nok informasjon.
Den har ikke egne meninger – den bare gjentar det den har lært fra andre tekster.
Alt må sjekkes av mennesker
Det kan altså være vanskelig å vite hvor gode svarene til en praterobot er. Derfor er det viktig at du alltid sjekker svaret mot en kilde som er lest og godkjent av et menneske.
Det er også forskjell på prateroboter, og hva de klarer å gjøre. Utviklingen går veldig fort, så praterobotene blir flinkere og flinkere til å gi deg gode svar. Likevel må du fortsette å sjekke at svarene du får, er pålitelige. Du kan aldri stole helt på en praterobot.
Tenk over
Hvilke svar velger du å lese og stole på når du gjør et nettsøk?
Er du klar over at det øverste svaret kan være KI-generert?
Sjekker du kildene til svarene du får?
Relatert innhold
Hvordan og hvorfor være kritisk til KI-genererte tekster?