Varför källhänvisningar gör AI-svar trovärdiga

Ett AI-svar kan vara välformulerat, säkert i tonen och helt fel. Det är inte en brist som syns på ytan. Därför räcker det inte att svaret låter rätt. Den som läser behöver kunna se var det kommer ifrån.

Det är vad källhänvisningar gör. De förvandlar ett svar från något man måste tro på till något man kan kontrollera.

Varför ett svar utan källa inte räcker

En språkmodell skriver text som låter rimlig. Oftast stämmer den också, särskilt när den får rätt underlag. Men modellen har ingen inbyggd känsla för när den vet något och när den gissar. Saknas underlaget kan den fylla i luckan själv, med samma säkra ton.

I många sammanhang är det ett problem. En kundtjänstmedarbetare som ger ett felaktigt besked om villkor. En handläggare som följer en rutin som inte längre gäller. En sjuksköterska som undrar över ett riktvärde. I alla de fallen är det inte formuleringen som är viktig. Det är att uppgiften stämmer, och att det går att visa varför.

Ett svar utan källa lämnar användaren med två dåliga val. Antingen litar hon blint, eller så letar hon upp svaret själv och har då inte sparat någon tid.

Vad en bra källhänvisning gör

En bra källhänvisning pekar på de dokument svaret bygger på, så att användaren kan öppna dem direkt. Den gör det möjligt att läsa stycket i sitt sammanhang och avgöra om svaret har tolkat det rätt. Det tar några sekunder, och det är ofta allt som behövs för att känna sig trygg.

Källan visar också något annat, nästan lika viktigt. Den gör det tydligt när underlaget är tunt. Om assistenten inte hittar något relevant dokument ska det synas, i stället för att döljas bakom ett välformulerat svar. Det är bättre att få veta att svaret saknas än att få ett påhittat.

Med tiden förändras också hur medarbetarna använder verktyget. När de vet att de alltid kan kontrollera blir de mer benägna att lita på det. Det beror inte på att verktyget aldrig har fel, utan på att de ser vilket dokument varje svar kommer ifrån.

Det gäller inte minst när svaret ska vidare. Ett besked till en kund, ett underlag inför ett beslut eller en text i en journal behöver kunna stå på egna ben. Med källan i handen kan medarbetaren svara på följdfrågan om varför, utan att behöva leta en gång till.

Källor börjar med rätt underlag

Källhänvisningar är bara så bra som dokumenten de pekar på. Om underlaget innehåller gamla versioner och motstridiga rutiner kommer källorna att visa det. Det kan kännas obekvämt, men det är en tillgång. Det blir tydligt vilka dokument som behöver uppdateras.

Därför är det klokt att ge varje samling dokument en ägare och att låta assistenten svara ur gällande underlag. Då pekar källorna på det som faktiskt gäller, och användarna lär sig att det de hittar går att lita på.

Så fungerar det i iSearch

I iSearch visar varje svar vilka dokument som lästes. Användaren kan öppna källan direkt och se stycket i sitt sammanhang. Assistenten svarar ur era egna kunskapsbanker, och ni väljer vilket underlag varje assistent får använda.

Hela kedjan kan köras i er egen miljö, språkmodellen inräknad, och era uppgifter används aldrig för att träna modeller.

Se hur produkten fungerar, läs mer om säkerheten eller boka en genomgång.