Vad är träningsdata?
Träningsdata är den data som en AI-modell har lärt sig av, till exempel text, bilder eller ljud.
Det modellen kan, och det den missar, kommer från träningsdatan. En språkmodell som tränats på mest engelsk text blir ofta bättre på engelska än på svenska.
Det som har använts för träning är svårt att ta bort i efterhand. Uppgifter som har blivit en del av en modell går inte att radera som en fil.
Därför är det en viktig fråga om era dokument, frågor och svar används för att träna en leverantörs modeller. Svaret bör framgå av avtalet.
Så fungerar det
En stor språkmodell tränas i flera steg. Först på stora mängder allmän text, ofta från webben, böcker och kod. Sedan på mindre, noga utvalda exempel som lär den att följa instruktioner och svara hjälpsamt. Båda stegen formar vad modellen kan och hur den uttrycker sig.
Därför spelar det roll
Träningsdatan avgör vilka språk, ämnen och perspektiv modellen behärskar. Den avgör också vilka skevheter som följer med. Därför är det värt att fråga vad en modell har tränats på och att pröva den med egna exempel innan den används i viktiga flöden.
Att tänka på
Träningsdatan har ett slutdatum. Det som har hänt eller ändrats efter det känner modellen inte till, om den inte får läsa aktuella dokument när den svarar.
Enligt AI-förordningen ska leverantörer av AI-modeller för allmänna ändamål offentliggöra en sammanfattning av det innehåll som har använts för att träna dem.
Vad det betyder för er
Kräv ett tydligt besked i avtalet om att era uppgifter inte används för att träna modeller.
Vanliga frågor
Tränas AI på våra dokument när vi använder den?
Med RAG läser modellen dokumenten när frågan ställs, och ingen träning sker. Vissa tjänster använder ändå kunders data för att träna vidare. Kontrollera villkoren.
Varför spelar träningsdatan roll?
Modellen speglar det den har lärt sig av. Skevheter i datan kan ge bias, och det som hänt efter en viss tidpunkt känner modellen inte till.
Kan personuppgifter finnas i träningsdata?
Ja. Modeller som tränats på stora mängder text kan ha lärt sig uppgifter om personer. Då gäller GDPR även för träningen.
Relaterade begrepp
Läs mer
Alla begrepp Uppdaterad