iSearch

Vad är en språkmodell?

En språkmodell, ofta kallad LLM efter engelskans large language model, är en AI-modell som har tränats på stora mängder text för att förstå och skriva språk.

En språkmodell förutsäger vilken text som rimligen kommer härnäst. Den har lärt sig det genom att läsa enorma mängder text, och resultatet blir svar som låter naturliga.

Modellen vet bara det som fanns i träningen. Era egna rutiner, avtal och beslut finns inte där. Frågar man om dem svarar modellen hur det brukar gå till, vilket kan låta rätt och ändå vara fel för er.

Därför används språkmodeller allt oftare tillsammans med organisationens egna dokument. Modellen formulerar svaret, och innehållet kommer från det ni har skrivit.

Så fungerar det

Modellen arbetar med tokens, små bitar av text. Den läser frågan och det underlag den har fått och räknar sedan fram svaret ett ord i taget utifrån sannolikheter. Hur mycket den kan ta hänsyn till på en gång begränsas av kontextfönstret.

Därför spelar det roll

Språkmodellen avgör hur väl svaren är formulerade och hur bra en otydlig fråga blir förstådd. För en verksamhet spelar ändå underlaget och driften större roll. En modell som svarar ur rätt dokument på rätt plats är mer värd än en större modell som gissar.

Att tänka på

Modeller skiljer sig åt i språk, storlek och villkor. En del kan köras i en egen miljö, helt utan internet. Andra finns bara som tjänst hos en leverantör.

En större modell ger inte automatiskt bättre svar i ert arbete. Testa med era egna frågor och dokument, gärna på svenska, innan ni bestämmer er.

Vad det betyder för er

Fråga hur en AI-tjänst får tillgång till era dokument. Det avgör mer än vilken modell den bygger på.

Vanliga frågor

Vad är skillnaden mellan en språkmodell och en AI-assistent?

Språkmodellen är motorn som förstår och skriver text. En AI-assistent är verktyget runt den, med instruktioner, behörigheter och koppling till era dokument.

Vet språkmodellen vad som står i våra dokument?

Nej. Den har lärt sig av allmän text fram till en viss tidpunkt. För att svara ur era dokument behöver den läsa dem när frågan ställs, till exempel med RAG.

Var körs språkmodellen?

Det beror på lösningen. Den kan köras hos en extern tjänst eller i er egen miljö som lokal AI. Var den körs avgör var frågor och dokument behandlas.

Alla begrepp Uppdaterad