Vad är Deepfakes och hur farliga är de?

Woman looking at two deepfakes and being confused as to which one is real
Klicka här för en kort summering
Vad är deepfakes? En snabb förklaring

Deepfakes är en typ av syntetisk media, antingen video eller ljud som efterliknar en riktig person som har kopplats till en annan person. Det som är oroande är att deepfakes börjar bli allt mer enkla att skapa. Det kan få allvarliga konsekvenser för vanliga människors liv eftersom deepfakes kan användas för att utpressa intet ont anande offer. De används även för att sprida falska nyheter genom att skapa missledande videos av välkända personer.

Du kan skydda dig mot deepfakes. Det här är åtgärderna du kan vidta:

  • Lär dig om deepfakes och hur man upptäcker dem.
  • Undvik att publicera bilder på dig själv på offentliga sociala mediekonton.
  • Säkra dina enheter så att bilder av dig tillsammans med andra former av data inte stjäls och används i onda syften.
  • Förklara riskerna med deepfakes för din familj och vänner om du inte vill att de ska lägga ut bilder på dig.

Om något som liknar dig används i deepfake-material bör du rapportera det till den sociala medieplattformen som det delades på, och kontakta lokala myndigheter. Beroende på vilken plats du bor på kan du även prata med en juridisk expert.

Läs hela vår artikel för att få reda på mer om deepfakes och hur du skyddar dig mot dem.

I den andra Terminator-filmen, kunde T-1000-roboten förvandla sitt utseende till vem som helst. Deepfakes är väldigt lika en T-1000-robot. De missleder mediet som kan ”förvandla” deras utseende till att se ut och låta som vem som helst, levande eller död. Framtiden är här, och det är inte alltid något bra.

Vad är en deepfake?

En deepfake är ett falsk media, vanlig video som ser verklig ut. Det går ut på att använda AI-teknik och maskininlärning för att manipulera video och röst. Ett exempel är denna deepfake av Facebookgrundaren Mark Zuckerberg. Videon publicerades på Instagram och visade en ”fejk-Mark” som sa dessa onda ord:

”Föreställ er detta: En man, med total kontroll över miljarder människors stulna data, alla deras hemligheter, deras liv, deras framtid… Jag har Spectre att tacka för allt. Spectre visade mig att den som kontrollerar datan, kontrollerar framtiden.”

Men deepfakes är relativt komplicerade att skapa. Maskininlärning kräver väldigt stora dataset för att träna neurala nätverk. För att skapa en deepfake behöver datan vanligtvis bestå av många tusentals bilder med två personer som omvandlas och sammanfogas med ett specialprogram. Rösten läggs sedan på och läpparna synkas.

Deepfakes som efterliknar kändisar kan ibland vara kul, men tekniken bakom dem är verkligen skrämmande. Det kan till och med vara farligt eftersom korta klipp på kändisar som säger banala saker bara är toppen på isberget.

Så används deepfakes

Det finns massor av deepfakes på internet. Bara under juni 2020, samlade Facebook in 100 000 av dem för att lära dess algoritmer för att ta reda på hur man avslöjar deepfake-videos. Denna ökade användning av deepfake-teknik visar att den blir mer och mer tillgänglig. Ökad tillgänglighet leder till att fler nybörjare använder det, både på gott och ont. Här är några av de senaste användningsområdena och hur de skadar folk.

Fejkade nyheter

I en era då ”fake news” verkar vara orsaken till många av världens bekymmer, så har deepfakes fått rollen som ett propagandaverktyg.

Den här deepfake-videon av Barack Obama visar hur deepfakes kan användas för att manipulera sanningen och släppa information i stor skala. Deepfakes erbjuder en mycket kraftfull mekanism till de som vill manipulera människors röstvanor.

Folk var riktigt oroade över den inverkan som deepfakes kunde ha på det amerikanska presidentvalet, 2020. Men som den här analysen från förra hösten förklarar, så var inte deepfakes något särskilt stort problem i just det fallet. Det beror främst på att deepfakes fortfarande är svåra att skapa, åtminstone att göra dem svåra att skilja från verkligheten. Men i framtiden kan tillgängligheten för massanvändning öka, och då kan det verkligen bli ett hot mot framtida val.

Cyberbrottslighet

Deepfakes är det perfekta verktyget för att ta nästa steg med nätbrottsligheten. Cyberbrottslingar kan använda deepfakes för att utpressa folk till att lyda dem. Det kan göras på många olika sätt, till exempel genom phishing-attacker och sextortion.

Allt eftersom deepfake-teknik blir mer tillgängligt kommer det sannolikt användas för social manipulation, vilket är en teknik som används för olika cyberbrott för att manipulera mänskliga beteenden genom att inge förtroende, skapa en brådskande känsla och skam, och så vidare.

Sextortion

Sextortion är ett tydligt exempel på hur deepfakes kan göra ordentlig skada i det verkliga livet. Sextortion är ett bedrägeri där cyberbrottslingar utpressar vanligt folk till att skicka pengar, där de hotar att dela privata videos på personen. Bedrägeriet kan äga rum utan en faktisk video eftersom brottslingarna med hjälp av deepfake-mekanismen kan skapa verklighetstroget privat material.

Även om offret vet att videon inte är riktig så kanske de känner att de inte har något annat val än att betala, då videorna ibland kan se otroligt realistiska ut. Detta är inte heller något litet problem. I januari, 2021, efterforskade, identifierade och blockerade Avast över 500 000 fall av sextortion mot deras kunder världen över.

Phishing och hämndporr

Och det är bara en del av ett större problem. Den tekniken som används för sextortion kan även användas för phishing. I phishing-kampanjer låtsas cyberbrottslingar att de är någon annan för att kunna motivera till handling. De kan också ringa dig och använda din chefs röst som de fått tag på igenom deepfake-syntes för att be dig om företagsuppgifter.

Det är inte något hypotetisk exempel. För att par år sen lurades en brittisk VD till att överföra 240 000$ till en bedragare. VD:n trodde att han var i telefon med chefen för moderbolaget, och som bad honom att snabbt överföra pengarna. VD:n tros ha lurats av en ”deepfake”-röst.

Deepfake-teknik används dessutom för att skapa hämndporr. Det drabbar i synnerhet kvinnor, och om du vill få reda på just den här typen av missanvändning kan du läsa den här artikeln från Forbes.

Skapa deepfakes med deepfake-appar

Zao App var det första programmet som gjorde deepfake-skapande brett tillgängligt för folk. Sedan dess har användningen av appen begränsats i de flesta länder, men folk kan fortfarande få åtkomst till den från några delar av världen, som exempelvis Indien.

Zao är inte den enda appen som kan hjälpa dig att skapa deepfake-videos. Massor av andra appar har sedan dess släppts, inklusive:

  • Deepfakesweb: en betald webbapp som låter dig sammansmälta bilder och videos.
  • DeepFaceLab: ett mer komplext program som är byggt av Microsoft. Dess huvudsyfte är att hjälpa studerande och forskare att bättre förstå sig på deepfake-produktioner, men folk kan använda den för att skapa sina egna videos. Den är dock lite svårare att använda jämfört med Deepfakesweb, och kräver ett mycket större dataset med media för att skapa något övertygande.
  • Wombo: en läppsynkande app som låter dig sy ihop ansikten till musikvideos. Om du vill se den i action kan du ta en titt på det här klippet på Elon Musk som sjunger en rätt så oväntad melodi:

Som du kan se är de flesta deepfake-apparna öppet tillgängliga för att producera videos som inte alltid är helt realistiska. Men det kan ändras i framtiden, därför är det otroligt viktigt att lära sig hur man kan skydda sig.

Hur man skyddar sig mot deepfakes

I ett försök att kontra deepfake-marknadsplatsen har Google lanserat en samling med deepfake-data. Datan som tillhandahålls från den här databasen kommer hjälpa med att skapa de verktygen som man behöver för att upptäcka fejkade videos så att de kan tas bort. Facebook ligger bakom ett liknande initiativ som organiserar en tävling som går ut på att skapa deepfake-upptäckningsprogram. Microsoft har utvecklat ett komplett deepfake-upptäckningsprogram.

Men är de här insatserna tillräckliga för att hålla dig borta från farorna som deepfake medför? I framtiden kanske. Just nu behöver man fortfarande vidta säkerhetsåtgärder om man inte vill drabbas av deepfakes.

Dela bilder offentligt: en dålig idé?

Att dela bilder online är inte förödande. Men om man tar en massa bilder av sig själv och gör dem offentligt tillgängliga så blir man en enklare måltavla för cyberbrottslingar som använder deepfake-teknik.

På de flesta sociala medieplattformarna går det att välja i inställningarna om man vill göra sitt konto privat. Uppmuntra familjemedlemmar och nära vänner till att respektera samma riktlinjer. Kom ihåg att de mest verklighetstrogna deepfake-videorna bara kan skapas genom en stor datasamling med bilder på någon. Om du åtminstone begränsar antalet bilder som du gör tillgängliga kommer du mindre sannolikt att falla offer för cyberbrott med deepfakes.

Förbättrad enhetssäkerhet

Vid sidan av att vara medveten om bilderna du publicerar kan du även se till att dina enheter är säkrade, så att din data (inklusive bilder och videos) aldrig läcks ut. För att göra detta behöver du använda en VPN (virtuellt privat nätverk) som hjälper dig att förbli anonym online genom att ändra ditt IP. Anti-malware-program kan också hjälpa, i synnerhet på mobilenheter.

Kontakta myndigheterna

Slutligen: om du råkar falla offer för cyberbrott genom deepfakes bör du rapportera materialet som skapats med dig till den sociala plattformen som det delades på. Vid sidan av det bör du också kontakta lokala myndigheter och lämna in ett formellt klagomål. Om du finns i mediainnehåll som skapats med deepfake kan det anses vara ärekränkning, så du kan även kontakta en advokat för att utforska dina juridiska alternativ.

Framtiden för deepfake

Fastän deepfakes kan användas för lättsamma och roliga syften så missanvänds tekniken också av cyberbrottslingar för att göra allvarlig skada. Välkända personer är de enklaste måltavlorna för deepfake-skapande, särskilt om de används för att sprida falska nyheter, men farorna med deepfake kan drabba alla. Det viktigaste med onlinesäkerheten och internet är att vara kritisk till allt du ser online. Nu när du vet vad deepfakes är kanske du tänker till innan du tror på en video från en myndighetsperson som gör ett konstigt uttalande.

Om du vill lära dig mer om hur man skyddar sig mot cyberbrottslighet kan du även läsa våra artiklar om WhatsApp-bedrägerier och hämndporr.

Vad är deepfakes? - Vanliga frågor

Deepfakes blir allt mer tillgängliga och enklare att sprida. Har du fortfarande någon fråga om det här nya tillvägagångssättet för att skapa ”falska media”? Ta en titt på den här FAQ-sektionen för våra svar på de vanligaste frågorna om deepfakes.

En deepfake-video är mediamaterial som skapats med deepfake-teknik som innehåller video och ljud-element. Deepfake-teknik är baserat på AI och maskininlärningsalgoritmer för att modifiera befintliga videos och addera nya ansikten och röster på en originalfil. De flesta deepfake-videos innehåller kändisar som säger eller gör något löjligt eller skandalöst. Du kan få reda på mer om det i vår artikel om deepfakes.

Vi rekommenderar starkt att man inte använder deepfakes i onda syften. Att skapa en deepfake-video och dela den offentligt kan anses vara förtal och till och med utpressning om du kontaktar en person som visas i videon.

Med det sagt – om du bara vill ha lite kul med dina vänner, till exempel genom att använda deepfake för att lägga till ditt ansikte i en musikvideo, då kan du använda onlineappar. Deepfakesweb låter dig skapa deepfake-videos, men det är inte gratis. Videos kan kosta allt mellan 5-75$ att skapa beroende på hur långt deepfake-materialet är. Andra alternativ är Wombo och DeepFaceLab.

Det är svårt att lista ut när den första deepfake-videon skapades. Det beror på att deepfakes inte bara ploppar upp, så att man kan dra en tydlig linje mellan manuell videoredigering och AI-driven redigering. I verkligheten började dessa två former av mediamanipulering att kombineras, tills AI-driven videomanipulation blev ”autonom”.

Men termen ”deepfake” har ett tydligt ursprung. Den myntades först av en Reddit-användare med samma namn, år 2017. Därför kan man konstatera att det första ”riktiga” deepfake-materialet inte är mycket äldre än det.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.