Varning för försök till nätfiske på Messenger.
5 min lästid
Artikel
Vad är deepfake?
Vågar vi lita och tro på allt vi ser i våra flöden? En stor del av all mediekonsumtion och kommunikation sker idag via sociala medier, men det är viktigt att förhålla sig källkritisk till det vi möts av i våra flöden. Bedragare utnyttjar ofta ny teknik och sätt att kommunicera, och finns närvarande i de kanaler vi rör oss i. Deepfake är ett exempel på en relativt ny teknik som bedragare använder sig av för att begå brott.

Begreppet deepfake kommer från en sammanslagning av två engelska ord, deep machine learning och fake, och syftar till att beskriva när man med hjälp av teknik skapar manipulerade videor, ljudklipp eller bilder som ser ut som att vara autentiska. Deep machine learning, eller djup maskininlärning som det heter på svenska, är högt avancerad AI-teknik (Artificiell Intelligens) där indataegenskaper plockas ut genom maskininlärda algoritmer med flera lager. I praktiken används denna deepfake-AI ofta för att manipulera ett ansikte eller en röst i en deepfakevideo eller ett foto.

Tekniken utnyttjas av bedragare till att begå olika digitala brott, exempelvis:

Med hjälp av deepfake-teknik är det alltså möjligt att läsa in data som ett ansikte. Ett sådant exempel är att man låter en maskinmodell tränas med bilder på en kändis som man vill kopiera. Det behövs mellan 500 och 1000 bilder från olika vinklar för att få en bra kopia av ansiktet.

Många av oss har säkert redan idag använt sig av tekniken genom olika appar. Ett exempel på en deepfake-app är FakeApp. FakeApp är ett komplett Windows-program som har förfinats alltmer till ett lättarbetat gränssnitt för vem som helst att börja använda.

Deepfejkade röster

Även röster kan kopieras med hjälp av deepfake-appar eller program, exempelvis en så kallad deepfake voice generator. Det fungerar på samma sätt som bild- och videobaserade deepfakes där AI:n istället tar in och analyserar ljudfiler av en persons röst. Detta kombinerat med trovärdiga deepfakevideos gör det svårt att särskilja deepfejken från verklighetens person, vilket har lett till virala fejkade nyhetsklipp av politiska figurer som till exempel Barrack Obama och Volodomir Zelenskyj som är fullkomligt fabricerade.

Exempel på deepfake

Nedan finns exempel på deepfake-teknik använts både visuellt och genom röst:


Går det att skydda sig mot bedrägerier som använder deepfake?

Det finns flera tips du kan följa för att undivka att bli lurad av deepfakes. Det första du bör göra är att lära dig att känna igen en deepfake.

Här är några bra kännetecken:Onaturliga ögonrörelser

  • Onaturliga ansiktsuttryck
  • Onaturliga ansiktskonturer
  • Känslolöst ansikte eller röst
  • Onaturlig kroppsposition eller hållning
  • Onaturliga kroppsrörelser och kroppsformer
  • Onaturlig färg på ljus, skugga och hud
  • Hår som inte ser äkta ut
  • Tänder som inte ser äkta ut
  • Dåligt ljud, läpp och mun synkronisering

För den mer tekniskt bevandrade finns program som man kan använda sig av för att upptäcka deepfakes samt tekniker för att skydda sina videor och ljudfiler:


Följ SSF:s råd

  • Var källkritisk till allt du läser och ser.
  • Dela inte information innan du kontrollerar dess källa och legitimitet.
  • Ta bort och anmäl inlägg som du upptäcker är fejk, och skriv ett nytt där du varnar för artikeln, bilden eller filmen.
  • Uppmana andra att vara källkritiska för att undvika negativa konsekvenser till följd av spridning av fejknyheter.

Läs mer:
Stoppa fake news med kallkritik

Berätta för dina vänner innan de blir lurade:

Var den här sidan till hjälp för dig?

Nej, inte alls
Ja, mycket
Gör skillnad - Tipsa om bedrägeriförsök!
Hjälp oss bekämpa den växande digitala brottsligheten. Gör skillnad och lämna ditt tips till oss. Tillsammans kan vi informera om pågående brottstrender och stoppa bovarna innan de slår till.