Vad är en källhänvisning i AI?
En källhänvisning visar vilket dokument och vilket avsnitt ett AI-svar bygger på, så att den som läser kan kontrollera det.
Ett svar utan källa går inte att pröva. Med en hänvisning kan medarbetaren öppna dokumentet och se stycket som svaret kommer från.
Det gör det lättare att lita på svaren och att upptäcka när något är fel. Är källan en gammal version syns det direkt.
En handläggare som får ett svar om handläggningstider ser att det kommer från rutinens tredje avsnitt. Hon kan klicka sig dit och läsa sammanhanget innan hon svarar en kund.
Så fungerar det
När ett system svarar ur egna dokument vet det vilka stycken som skickades med till modellen. Hänvisningen byggs från just dem. Ett bra system visar dokumentets namn och avsnittet, och länkar dit. Det kan också visa själva stycket, så att läsaren ser orden som svaret vilar på.
Därför spelar det roll
Källor gör AI användbar där det krävs att man kan stå för ett besked. En handläggare, en jurist eller en sjuksköterska behöver kunna visa vad ett svar bygger på. Hänvisningen gör också felen synliga, vilket hjälper den som förvaltar dokumenten att se vad som behöver rättas.
Att tänka på
Kontrollera hänvisningen när svaret spelar roll. Ett stycke kan vara rätt dokument men ändå handla om något annat än frågan.
Var vaksam på källor som ser ut som hänvisningar men inte går att öppna. En språkmodell som svarar ur minnet kan skriva namn på dokument och paragrafer som inte finns.
Vad det betyder för er
Kräv att varje svar visar sin källa. Det är det enklaste sättet att kunna granska vad AI säger.
Vanliga frågor
Räcker det att svaret anger ett dokument?
Bäst är när hänvisningen pekar ut avsnittet, så att läsaren snabbt hittar rätt ställe. En hänvisning till ett helt dokument är svårare att kontrollera.
Kan en källhänvisning vara fel?
Ja, om systemet visar en källa som svaret inte bygger på. Hänvisningen ska därför komma från de stycken som faktiskt lästes, och läsaren ska kunna öppna dem.
Varför bygger källor förtroende?
De gör svaret möjligt att kontrollera. Den som läser ser själv underlaget och behöver inte ta svaret på tro.
Relaterade begrepp
Läs mer
Alla begrepp Uppdaterad