Vad är deepfake? Så känner du igen en AI-generad bild

Det är viktigt att förhålla sig källkritisk till det vi möts av i vår vardag och våra flöden. Bedragare utnyttjar ny teknik och sätt att kommunicera, och finns närvarande i de kanaler vi rör oss i – och AI är inget undantag. Deepfake är ett exempel på en teknik som härstammar från AI som bedragare i allt större utsträckning kommer att använda sig av för att begå brott – nu och i framtiden.

Vad är deepfake?

Begreppet deepfake kommer från en sammanslagning av två engelska ord, deep machine learning och fake, och syftar till att beskriva när man med hjälp av teknik skapar manipulerade videor, ljudklipp eller bilder som ser ut som att vara autentiska.

Deep machine learning, eller djup maskininlärning som det heter på svenska, är högt avancerad AI-teknik (Artificiell Intelligens) där indataegenskaper plockas ut genom maskininlärda algoritmer med flera lager. I praktiken används denna deepfake-AI ofta för att manipulera ett ansikte eller en röst i en deepfakevideo eller ett foto. Tyvärr utnyttjas tekniken av bedragare till att begå olika digitala brott, se exempel nedan.

Brott som utnyttjar deepfake

• Phishing-bedrägerier
• Dataintrång
• Kändispornografi
• Förtal
• Valfusk
• Social manipulation
• Id-stöld
• Ekonomisk brottslighet
• Utpressning
• Befogenhetsbedrägeri (vishing och Teams-möte med deepfakepersoner)
• VD-bedrägerier

Med hjälp av deepfake-teknik är det alltså möjligt att läsa in data som ett ansikte. Ett sådant exempel är att man låter en maskinmodell tränas med bilder på en kändis som man vill kopiera. Det behövs mellan 500 och 1000 bilder från olika vinklar för att få en bra kopia av ansiktet.

Många av oss har säkert redan idag använt sig av tekniken genom olika appar. Ett exempel på en deepfake-app är FakeApp. FakeApp är ett komplett Windows-program som har förfinats alltmer till ett lättarbetat gränssnitt för vem som helst att börja använda.

Deepfejkade röster

Även röster kan kopieras med hjälp av deepfake-appar eller program, exempelvis en så kallad deepfake voice generator. Det fungerar på samma sätt som bild- och videobaserade deepfakes där AI:n istället tar in och analyserar ljudfiler av en persons röst. Detta kombinerat med trovärdiga deepfakevideos gör det svårt att särskilja deepfejken från verklighetens person, vilket har lett till virala fejkade nyhetsklipp av politiska figurer som till exempel Barrack Obama och Volodomir Zelenskyj som är fullkomligt fabricerade.

Exempel på deepfake

Nedan finns exempel på deepfake-teknik använts både visuellt och genom röst:

• https://www.creativebloq.com/features/deepfake-examples
• https://techworld.idg.se/2.2524/1.722934/vd-rost-fejk-ai

Går det att skydda sig mot bedrägerier som använder deepfake?

En deepfejkad bild eller video kan vara svår att känna igen, och utgör en fara för både privatpersoner och samhället som helhet. Men det finns flera tips du kan följa för att undvika att bli lurad av deepfakes. Det första du bör göra är att lära dig att känna igen en deepfake.

Så känner du igen en deepfake

Här är några bra kännetecken för att känna igen en deepfejkad bild eller video:

• Onaturliga ögonrörelser
• Onaturliga ansiktsuttryck
• Onaturliga ansiktskonturer
• Känslolöst ansikte eller röst
• Onaturlig kroppsposition eller hållning
• Onaturliga kroppsrörelser och kroppsformer
• Onaturlig färg på ljus, skugga och hud
• Händer och fingrar som inte ser äkta ut
• Hår som inte ser äkta ut
• Tänder som inte ser äkta ut
• Dålig synkronisering mellan ljud samt läppar och munrörelser

För den mer tekniskt bevandrade finns program man kan använda sig av för att upptäcka deepfakes samt tekniker för att skydda sina videor och ljudfiler:

• Video- och bildredigeringsverktyg som gör det möjligt att spela upp video i slowmotion och zooma in frames/bilder.
• Digitala fingeravtryck som använder sig av blockchain-teknologi (samma teknik som kryptovaluta använder sig av).

Tips: Så skyddar du dig

• Var källkritisk till allt du läser, ser eller hör. Försök att verifiera källan till en bild eller video, eftersom du inte alltid kan lita på att innehållet är äkta. Osäkra källor eller okända avsändare bör tas med en nypa salt.
• Granska noggrant bilder och videor för tecken på manipulering. Leta efter onaturliga ansiktsuttryck, ojämnheter i ljus och skuggor, osynkade rörelser och orealistiska detaljer som kan avslöja en deepfake.
• Skydda dig själv. Var noga med att skydda din personliga information och dela inte känsligt material på nätet. Ju mindre personlig information och bilder på dig som finns tillgänglig, desto svårare blir det för bedragare att skapa realistiska deepfakes.
• Dela inte information innan du kontrollerar dess källa och legitimitet. Ta bort och anmäl innehåll om du upptäcker att det är fejk. Varna gärna andra för artikeln, bilden eller filmen, och uppmana andra att vara källkritiska.
• Håll dig informerad och uppdaterad. Genom att hålla dig uppdaterad kan du vara bättre rustad att känna igen och undvika potentiella hot. På Säkerhetskollen varnar vi om pågående digitala brott. Se till att hålla utkik och prenumerera på våra varningar.

Dela gärna tipsen vidare med dina nära och kära för att skapa en tryggare digital värld för alla!

Läs mer:

Vad är AI och hur påverkar det mig?
Stoppa fake news med kallkritik