Innsikt, oppdatert juni 2026
En av de raskeste måtene å miste tilliten til KI på, er å ta den på fersken i å si noe feil med full overbevisning. Det kalles en hallusinasjon, og det er en innebygd egenskap ved hvordan språkmodeller fungerer, ikke en tilfeldig feil. Den gode nyheten er at en løsning bygget riktig kan redusere problemet til et nivå dere kan leve med.
Hva en hallusinasjon faktisk er
En språkmodell er, litt forenklet, en svært god gjettemaskin. Den foreslår det mest sannsynlige neste ordet, basert på mønstre den har sett. Den har ikke en database med fasitsvar den slår opp i. Når den ikke har grunnlag for et svar, slutter den ikke å svare, den gjetter videre, like flytende og selvsikkert som ellers. Det er da den dikter.
Derfor er det farligst der det ser mest overbevisende ut
Problemet er ikke at hallusinasjoner er åpenbart gale. Tvert imot. De kommer i form av velformulerte, troverdige svar, en oppfunnet paragraf, en dato som ikke stemmer, en kilde som ikke finnes. Nettopp fordi de ser riktige ut, er de lette å stole på. Det er derfor ukontrollert KI er risikabelt for arbeid som krever presisjon.
Fire grep som reduserer dikting
Hallusinasjoner kan ikke fjernes helt, men de kan dempes kraftig med riktig oppsett:
- Svar kun fra godkjente kilder. Når modellen får servert relevante dokumenter å svare ut fra, gjetter den langt mindre. Dette er kjernen i RAG.
- Kildehenvisning. Når hvert svar viser hvor det kommer fra, blir det enkelt for et menneske å verifisere.
- Menneskelig kontroll. På kritiske steg er det et menneske som godkjenner før svaret brukes.
- Tydelige grenser. Løsningen bygges for et avgrenset bruksområde, ikke for å svare på alt mellom himmel og jord.
"Jeg vet ikke" er et godt svar
Et tegn på en godt bygget KI-løsning er at den tør å si at den ikke har grunnlag, i stedet for å dikte. Det høres banalt ut, men det er overraskende vanskelig å få til, og det er en av tingene som skiller en seriøs løsning fra en imponerende demo.
Hva dette betyr for dere
Spørsmålet er ikke om en språkmodell kan ta feil, det kan den. Spørsmålet er om løsningen er bygget slik at feilene fanges opp før de gjør skade. Bygget riktig kan dere stole på svarene, og dokumentere hvorfor. Les mer om hvordan vi bygger trygt, eller book et møte.