Vad är en AI-hallucination?
En hallucination är när AI ger ett svar som låter trovärdigt men är fel eller påhittat.
En språkmodell är byggd för att skriva text som låter rimlig. Den har ingen inbyggd spärr som säger att den inte vet. Saknas underlaget fyller den ibland i luckan själv, med samma säkra ton som när den har rätt.
Det kan vara en hänvisning till en rutin som inte finns eller en siffra som ingen kan härleda. Risken är störst när modellen svarar om saker den aldrig har sett, som era interna regler.
Risken går att minska. Låt AI svara ur era egna dokument, visa källan till varje svar och låt systemet säga att det inte hittar något när underlaget saknas.
Så fungerar det
Modellen väljer ord efter vad som är sannolikt i sammanhanget. Den stämmer inte av svaret mot en samling fakta. När frågan gäller något som saknas i underlaget blir det mest sannolika svaret ändå ett svar, ofta i samma form som ett korrekt. Därför kan påhittade namn, paragrafer och källor se så äkta ut.
Därför spelar det roll
Risken för en organisation är att ett felaktigt svar används som om det vore rätt. Ett påhittat besked om en rutin, en regel eller ett avtalsvillkor kan leda till fel beslut. Ju mer AI används i vardagen, desto viktigare blir det att se vad svaret bygger på.
Att tänka på
Hallucinationer går inte att ta bort helt med dagens teknik. Målet är att göra dem sällsynta och lätta att upptäcka.
Var särskilt uppmärksam på detaljer som datum, belopp och hänvisningar. De är lätta att läsa förbi och svåra att gissa rätt. Kontrollera källan när svaret ska användas till något som spelar roll.
Vad det betyder för er
Fråga leverantören vad som händer när svaret inte finns i era dokument. Ett bra system säger det rakt ut.
Vanliga frågor
Varför hittar AI på?
En språkmodell är byggd för att skriva text som låter rimlig. Saknas underlag fyller den ibland luckan själv, utan att markera det.
Hur märker man en hallucination?
Sällan på tonen, eftersom ett felaktigt svar låter lika säkert som ett korrekt. Kontrollera mot källan. Ett svar utan källhänvisning är svårare att granska.
Hur minskar man risken?
Låt AI svara ur era egna dokument med RAG, visa källor och instruera assistenten att säga till när underlaget saknas.
Relaterade begrepp
Läs mer
Alla begrepp Uppdaterad