Begreppet deepfake kommer från en sammanslagning av två engelska ord, deep machine learning och fake, och syftar till att beskriva när man med hjälp av teknik skapar manipulerade videor, ljudklipp eller bilder som ser ut som att vara autentiska. Deep machine learning, eller djup maskininlärning som det heter på svenska, är högt avancerad AI-teknik (Artificiell Intelligens) där indataegenskaper plockas ut genom maskininlärda algoritmer med flera lager. I praktiken används denna deepfake-AI ofta för att manipulera ett ansikte eller en röst i en deepfakevideo eller ett foto.

Tekniken utnyttjas av bedragare till att begå olika digitala brott, exempelvis:

• Phishing-bedrägerier
• Dataintrång
• Kändispornografi
• Förtal
• Valfusk
• Social manipulation
• Id-stöld
• Ekonomisk brottslighet
• Utpressning
• Befogenhetsbedrägeri (vishing och Teams-möte med deepfakepersoner)
• VD-bedrägerier
  

Med hjälp av deepfake-teknik är det alltså möjligt att läsa in data som ett ansikte. Ett sådant exempel är att man låter en maskinmodell tränas med bilder på en kändis som man vill kopiera. Det behövs mellan 500 och 1000 bilder från olika vinklar för att få en bra kopia av ansiktet.

Många av oss har säkert redan idag använt sig av tekniken genom olika appar. Ett exempel på en deepfake-app är FakeApp. FakeApp är ett komplett Windows-program som har förfinats alltmer till ett lättarbetat gränssnitt för vem som helst att börja använda.

Deepfejkade röster

Även röster kan kopieras med hjälp av deepfake-appar eller program, exempelvis en så kallad deepfake voice generator. Det fungerar på samma sätt som bild- och videobaserade deepfakes där AI:n istället tar in och analyserar ljudfiler av en persons röst. Detta kombinerat med trovärdiga deepfakevideos gör det svårt att särskilja deepfejken från verklighetens person, vilket har lett till virala fejkade nyhetsklipp av politiska figurer som till exempel Barrack Obama och Volodomir Zelenskyj som är fullkomligt fabricerade.

Exempel på deepfake

Nedan finns exempel på deepfake-teknik använts både visuellt och genom röst:

• https://www.creativebloq.com/features/deepfake-examples
• https://techworld.idg.se/2.2524/1.722934/vd-rost-fejk-ai

Går det att skydda sig mot bedrägerier som använder deepfake?

Det finns flera tips du kan följa för att undivka att bli lurad av deepfakes. Det första du bör göra är att lära dig att känna igen en deepfake.

Här är några bra kännetecken:Onaturliga ögonrörelser

• Onaturliga ansiktsuttryck
• Onaturliga ansiktskonturer
• Känslolöst ansikte eller röst
• Onaturlig kroppsposition eller hållning
• Onaturliga kroppsrörelser och kroppsformer
• Onaturlig färg på ljus, skugga och hud
• Hår som inte ser äkta ut
• Tänder som inte ser äkta ut
• Dåligt ljud, läpp och mun synkronisering

För den mer tekniskt bevandrade finns program som man kan använda sig av för att upptäcka deepfakes samt tekniker för att skydda sina videor och ljudfiler:

• Video- och bildredigeringsverktyg som gör det möjligt att spela upp video i slowmotion och zooma in frames/bilder.
• Digitala fingeravtryck som använder sig av blockchain-teknologi (samma teknik som kryptovaluta använder sig av).
• Omvänd bildsökning som innebär att man söker på internet efter bilder som använt sig av deepfake. Här kan du lära dig hur du gör en sådan sökning med hjälp av Google.

Följ SSF:s råd

• Var källkritisk till allt du läser och ser.
• Dela inte information innan du kontrollerar dess källa och legitimitet.
• Ta bort och anmäl inlägg som du upptäcker är fejk, och skriv ett nytt där du varnar för artikeln, bilden eller filmen.
• Uppmana andra att vara källkritiska för att undvika negativa konsekvenser till följd av spridning av fejknyheter.
  
  

Läs mer:
Stoppa fake news med kallkritik