Vad är en deepfake och röstkloning?
En deepfake är bild, ljud eller video som har skapats eller manipulerats med AI så att den liknar en verklig person eller händelse och kan uppfattas som äkta.
Med generativ AI går det att efterlikna en persons ansikte eller röst, till exempel utifrån bilder och inspelningar som redan finns på nätet. Röstkloning används bland annat i bedrägerier via telefonsamtal och röstmeddelanden, där det inte finns någon bild att granska.
Bedragare använder tekniken för att utge sig för att vara en chef, en kollega eller en myndighet och få någon att betala, lämna ut uppgifter eller logga in. Amerikanska FBI varnade i maj 2025 för AI-genererade röstmeddelanden som utgav sig för att komma från höga tjänstemän.
AI-förordningen definierar begreppet och kräver att den som använder AI för att skapa en deepfake i regel ska upplysa om att innehållet är artificiellt skapat eller manipulerat.
Så fungerar det
En AI-modell använder inspelningar eller bilder av en person för att efterlikna röst, tonfall eller ansikte. Resultatet kan användas i ett telefonsamtal, ett röstmeddelande eller ett videomöte.
Ett exempel. En ekonomiassistent får ett kort röstmeddelande från någon som låter som chefen och sedan ett mejl med en brådskande betalning till ett nytt konto. Rösten är klonad, och kontot tillhör bedragaren.
Därför spelar det roll
Tekniken används för att låta som någon man litar på, och FBI konstaterar att AI-genererat innehåll ofta är svårt att upptäcka. Det slår mot rutiner som bygger på att känna igen en röst eller ett ansikte. Läs mer om generativ AI.
Att tänka på
Verifiera ovanliga betalningar och ändrade kontouppgifter i en annan kanal, och låt två personer godkänna enligt fyraögonsprincipen.
Kom överens om ett kodord inom gruppen. Då behöver ingen avgöra om rösten är äkta.
Vad det betyder för er
Bygg skyddet på rutiner. Ring tillbaka på ett nummer ni redan har, och kom överens om ett kodord för ovanliga förfrågningar.
Vanliga frågor
Går det att höra om en röst är klonad?
Inte säkert. En klonad röst behöver inte vara perfekt för att övertyga under ett kort samtal. Därför är det tryggare att verifiera i en annan kanal än att försöka bedöma rösten.
Vad gör vi om vi misstänker ett bedrägeriförsök?
Avbryt samtalet och ring tillbaka på ett nummer ni redan har. Genomför inga betalningar eller ändringar förrän det är bekräftat, och anmäl försöket till polisen.
Vilka regler gäller för deepfakes?
AI-förordningen kräver i regel att den som skapar en deepfake med AI upplyser om att innehållet är artificiellt. Bedrägerier är brottsliga oavsett vilken teknik som används.
Källor: Förordning (EU) 2024/1689 på EUR-LexFortifikationsverket, Röstklon eller chefen?FBI om AI-genererade röstmeddelanden (2025)
Relaterade begrepp
Läs mer
Alla begrepp Uppdaterad