Så undviker ni att AI hittar på svar
En AI som låter säker men har fel är värre än ingen AI alls. Risken går inte att trolla bort, men den går att hantera. Med rätt underlag, källor och kontroll blir svaren något ni kan lita på.
iSearch
Innehåll
Alla som har provat AI har sett det någon gång. Ett svar som låter övertygande men inte stämmer. En hänvisning till en rutin som inte finns, eller en siffra som ingen kan härleda. Det kallas ibland att modellen hallucinerar, och det är den vanligaste anledningen till att organisationer tvekar.
Risken går inte att trolla bort. Men den går att hantera, och med rätt förutsättningar blir den liten.
Därför hittar AI på
En språkmodell är byggd för att skriva text som låter rimlig. Den har ingen inbyggd spärr som säger att den inte vet. Om underlaget saknas fyller den ibland i luckan själv, med samma säkra ton som när den har rätt.
Risken är störst när modellen svarar ur minnet, om saker den aldrig har sett. Era interna rutiner, era avtal och era beslut finns inte i den allmänna träningen. Frågar man en sådan modell om hur er verksamhet hanterar reklamationer får man ett svar om hur det brukar gå till. Det kan låta helt rätt och ändå vara fel för just er.
Låt den läsa i stället för att gissa
Det viktigaste steget är också det enklaste. Assistenten ska inte gissa sig till hur ni arbetar. Den ska läsa det. När svaret bygger på era egna, gällande dokument minskar utrymmet för att hitta på dramatiskt. Modellen formulerar, men innehållet kommer från er.
Kräv sedan att varje svar visar sin källa. Ett svar med källa går att kontrollera, och källan gör dessutom det tydligt när underlaget är tunt. Om inget relevant dokument hittas ska det synas, i stället för att döljas bakom en välformulerad text.
Underlaget behöver också vara i ordning. Gamla versioner, dubbletter och utkast som aldrig blev beslut skapar förvirring, och assistenten kan inte veta vilket av två motstridiga dokument som gäller. Rensa bort det som inte längre gäller, eller flytta det till ett arkiv som assistenten inte läser. Ge varje samling dokument en ägare som ansvarar för att den är aktuell.
Ett tydligt uppdrag och en människa i loopen
En assistent som ska kunna allt får svårare att svara rätt. En assistent för personalfrågor, en för kundtjänst och en för kvalitetsrutiner ger skarpare svar, eftersom var och en bara läser det som hör till uppgiften. Det minskar risken att ett svar blandar ihop rutiner från olika delar av verksamheten.
Ge också varje assistent tydliga instruktioner. Be den hålla sig till underlaget, säga till när den inte hittar svaret och hänvisa till rätt person när frågan ligger utanför. Vissa frågor ska inte besvaras av en assistent alls, som enskilda personalärenden eller juridiska bedömningar. En assistent som hänvisar vidare är alltid bättre än en som gissar.
Till sist, behåll människan i loopen. Gör det till en vana att öppna källan när svaret ska vidare till en kund, ett beslut eller en journal. Det tar några sekunder. Låt användarna markera svar som blev fel och gå igenom dem regelbundet. Oftast är orsaken ett dokument som saknas, och det går att rätta.
Ni kan inte få en AI som aldrig har fel. Men ni kan få en AI som alltid visar varför den svarar som den gör. Då kan den som läser svaret öppna källan och kontrollera det innan det används.
Så fungerar det i iSearch
I iSearch svarar assistenten ur era egna dokument, och varje svar visar vilka dokument som lästes. Ni skriver instruktionerna och väljer vilka kunskapsbanker varje assistent får använda.
Hela kedjan kan köras i er egen miljö, språkmodellen inräknad, och era uppgifter används aldrig för att träna modeller.
Se hur produkten fungerar, läs mer om säkerheten eller boka en genomgång.