Kan du stole på ein praterobot?

Kva er ein praterobot?

Ein praterobot (chatbot) er eit dataprogram som prøver å snakke og skrive som eit menneske. Robotane har ingen kjensler eller tankar, men dei kan svare veldig likt menneske. Derfor er det mange som bruker praterobotar når dei lurer på noko og vil ha raskt svar. Men er svara frå praterobotar gode nok? Vi skal sjå nærare på kva ein praterobot kan og ikkje kan.

Korleis verkar ein praterobot?

Prateroboten bruker språkmodellar når han skal lage svar. Språkmodellane er trente på store mengder tekstar på internett. Ved hjelp av maskinlæring har dei lært seg kva for ord som passar best saman i ei setning. Prateroboten vil foreslå dei orda som er mest sannsynlege.

Skeivskapar i svara

Språkmodellen har lært ved å trene på mange typar tekstar. Han fungerer best på språk der det finst mange tekstar å øve på, til dømes engelsk. Dette påverkar både korleis prateroboten formulerer setningar, og orda han vel.

I tillegg vil svara bli påverka av kva for tekstar som finst, og kva for verdiar tekstane samla sett viser. Når veldig mange tekstar handlar om at sjukepleiarar er kvinner, vil det vere eit verdisyn prateroboten tek med seg i svaret. Viss tekstane inneheld fordommar og mønster som favoriserer somme menneske, lærer roboten det òg. Vi seier at svara er skeive eller har eit bias.

Ikkje like god på alle språk

Det er altså språka som det finst mange tekstar av på internett – spesielt engelsk – som er dei viktigaste kjeldene til praterobotane. Bruker du til dømes swahili, som er eit viktig afrikansk språk, finst det langt færre tekstar på internett på dette språket. Praterobotar er heller ikkje gode på tigrinja. Vi kan seie at nokre språk er "små" på internett og derfor ikkje gir praterobotane like mykje å trene på.

Små tema på internett

Viss du ber roboten om å finne informasjon om eit emne det finst få digitale tekstar om, blir òg svara du får, meir usikre. Roboten vil "gjette" dårlegare, rett og slett fordi det er vanskelegare for han å finne mønster han kan bruke i svaret til deg.

Prateroboten hallusinerer

Prateroboten er laga slik at han alltid vil gi deg eit svar. Viss det ikkje finst eit svar på det du spør om, vil han lage eit svar som kan høyrast rett ut, men som ikkje stemmer.

Viss du ber roboten gi deg kjelda han har brukt, kan han finne på kjelda òg. Når ein praterobot finn på noko, kallar vi det for hallusinering.

Kan eg stole på ein praterobot?

Det kan vere nyttig å tenke på praterobotar som ein venn som kan ganske mykje, men som du ikkje stoler heilt på. Dette er viktig å hugse på når du bruker ein praterobot:

• Han forstår ikkje eigentleg. Han berre gjettar kva for ord som passar saman.

• Han kan gjere feil eller gi feilaktige fakta viss han ikkje har rett eller nok informasjon.

• Han har ikkje eigne meiningar – han berre gjentek det han har lært frå andre tekstar.

Alt må sjekkast av menneske

Det kan altså vere vanskeleg å vite kor gode svara til ein praterobot er. Derfor er det viktig at du alltid sjekkar svaret mot ei kjelde som er lesen og godkjend av eit menneske.

Det er òg forskjell på praterobotar, og kva dei klarer å gjere. Utviklinga går veldig fort, så praterobotane blir flinkare og flinkare til å gi deg gode svar. Likevel må du halde fram med å sjekke at svara du får, er pålitelege. Du kan aldri stole heilt på ein praterobot.