Vad är en systemprompt?
En systemprompt är en instruktion som gäller i bakgrunden för varje samtal med en AI-tjänst, och som styr ton, regler och vad den ska hålla sig till.
Användaren skriver sina frågor. Den som har satt upp tjänsten har dessutom skrivit en instruktion som modellen får läsa före varje fråga. Den syns oftast inte för användaren.
En systemprompt kan säga att assistenten ska svara på svenska, hålla sig till organisationens dokument och säga till när underlaget saknas.
Instruktionen styr mycket men ger ingen garanti. Viktiga gränser, som vem som får se vilka dokument, behöver därför sitta i själva systemet.
Så fungerar det
När en användare ställer en fråga sätter tjänsten ihop en text där systemprompten ligger först. Därefter kommer samtalet och eventuella dokument. Modellen har tränats att väga instruktionen i systemprompten tungt, men den läser den som text, precis som resten.
Ett exempel på en rad i en systemprompt är att assistenten ska säga till när svaret inte finns i dokumenten och föreslå vem som kan hjälpa till. En sådan rad minskar risken för gissningar.
Därför spelar det roll
Systemprompten gör att en assistent beter sig likadant varje gång. Den avgör ton, språk, längd och hur försiktig assistenten är. Den kan också beskriva uppdraget, till exempel att assistenten svarar personal om interna rutiner och hänvisar vidare i frågor om enskilda ärenden.
Att tänka på
Utgå från att en systemprompt kan bli känd. Skriv inga lösenord, interna kontaktuppgifter eller annat känsligt i den.
Pröva assistenten med de frågor som brukar komma, och justera instruktionen när svaren inte stämmer med hur den ska bete sig.
Vad det betyder för er
Lita inte på instruktioner för att skydda känsliga uppgifter. Behörigheter ska styras av systemet.
Vanliga frågor
Vem skriver systemprompten?
Den som bygger eller förvaltar assistenten, gärna tillsammans med den som äger innehållet. Den ska spegla hur verksamheten vill att frågor besvaras.
Kan en systemprompt hindra AI från att hitta på?
Den hjälper, till exempel genom att be assistenten hålla sig till underlaget och säga till när svar saknas. Svaren behöver också bygga på rätt dokument.
Kan användare kringgå systemprompten?
Det förekommer försök att få en modell att bortse från sina instruktioner. Skyddet för känslig information ska därför ligga i behörighetsstyrningen, som en prompt inte kan ändra.
Relaterade begrepp
Läs mer
Alla begrepp Uppdaterad