Idag ska vi prata om deepfake, som nu har blivit utbrett och ett ganska vanligt fenomen. Tack vare denna teknik har informationsmanipulation nått en ny nivå.
Såg du drottning Elizabeth dansa på bordet under sändningen av nyårsbudskapet? Eller lyssnat på Kim Jong-uns tal om demokrati, eller beundrat Salvador Dali, som pratade om hans död (varför han inte tror på det)?
Alla dessa fantastiska videor har en sak gemensamt - de är falska. Deepfake är en teknik för att skapa och publicera falsk information i form av videor, ljud och foton. Det blir lättare att komma över sådant material, så vi har förberett för dig en instruktion för att skapa, känna igen och söka efter djupfalska videor på Internet.
Läs också: Morgondagens blockkedjor: framtiden för kryptovalutaindustrin i enkla ord
Deepfake - vad är det?
Deepfake (Deepfake) är i själva verket ett foto-, video- eller ljudmaterial som inte är äkta, falskt, det vill säga falskt. Deepfake (kombination av två ord - deep learning "deep learning" och fejk "fake") använder artificiell intelligens (AI) för djupinlärning för att skapa likheten mellan en person och en annan i videor och annat digitalt mediematerial. Den skapas av algoritmer baserade på verkliga röst-, ljud-, video- eller fotoprover som är sammanfogade. Algoritmen tar utvald information från många olika platser och kombinerar den sedan till ett material. Som ett resultat skapas något nytt (falskt), som är baserat på en kombination av olika verkliga data.
Men det är inte allt. Deepfake kan också "måla" ett foto från grunden, till exempel genom att skapa ansikten på karaktärer som aldrig funnits.
Vad är syftet med sådana handlingar? Deepfake används bland annat för att sprida felaktig information på Internet (till exempel om politiska personer eller händelser), stöld (till exempel förfalska röstkommandon) och skapa pornografi (filmer med kändisar - deepfake porr). Den kan också användas för utbildnings- och underhållningsändamål.
Läs också: Om kvantdatorer i enkla ord
Deepfake - Hur fungerar det?
I allmänhet finns det två sätt att skapa deepfake-material. Den första metoden använder två algoritmer. Först letar den första (kodaren) efter gemensamma egenskaper för två bilder (de som ska kombineras till en), sedan kan den andra (avkodaren) överföra dem till den nyskapade bilden. Till exempel, om vi vill skapa en video där en skådespelare skulle röra sig som vi, tar kodaren rörelsen från videon där vi dansar, och avkodaren kommer redan att ersätta vårt ansikte med skådespelarens ansikte och få honom att återskapa våra rörelser . Nyckeln här är de valda åtgärderna som kopieras till den nya bilden (till exempel rörelser, gester, ansiktsuttryck).
Det andra sättet är genom generativa motstridiga nätverk (GAN), där två algoritmer samverkar. Den första kallas en generator eftersom den, med hjälp av allmän information, skapar bilder (till exempel bilden av en person) som kombinerar dess utmärkande egenskaper (en person har en kropp, ett ansikte, ögon). Den andra algoritmen är en diskriminator som utvärderar om bilderna som ges till den av generatorn är sanna eller inte.
Med tiden blir båda algoritmerna mer avancerade, så de lär sig och förbättrar sig själva. Om generatorn är tränad på ett sådant sätt att diskriminatorn inte känner igen ett falskt foto (anses att det är verkligt), är processen klar.
En stor mängd förfalskade programvara finns på GitHub, en öppen källkodsgemenskap för skript, program och kod. Vissa av dessa program används enbart i underhållningssyfte, så det är inte förbjudet att skapa en deepfake, men många av dem kan också användas i kriminella syften.
Många experter tror att i framtiden, med utvecklingen av teknologier, kommer deepfakes att bli mycket mer komplexa och kan skapa allvarligare hot mot samhället, relaterade till inblandning i val, skapande av politisk spänning och kriminell verksamhet.
Läs också:
- Att observera den röda planeten: A History of Martian Illusions
- Teleportering ur vetenskaplig synvinkel och dess framtid
Hotet om Deepfake – sedan när har det funnits?
För första gången dök sådan falsk information upp 2017. Då är användaren ett alias deepfake publicerade på Reddit flera pornografiska filmer där kändisar var inblandade, inklusive Scarlett Johansson, Gal Gadot och Taylor Swift. Sedan dess har den här branschen utvecklats snabbt, eftersom nästan alla kan spela in deepfake-filmer.
https://youtu.be/IvY-Abd2FfM
Under de senaste åren har tekniken för deepfaking utvecklats så mycket att det nu blir allt svårare att avgöra om det är en påhittad video eller en äkta inspelning av riktiga människor. Ett exempel kan vara en video med ett meddelande från Elizabeth II eller ett tal av Barack Obama, som snabbt publicerades på många olika sajter. Videon med den tidigare amerikanska presidentens uttalande tog upp de globala hot som kan orsakas av desinformation och falska nyheter som publiceras på Internet. I materialet som publicerats av kanalen BuzzFeedVideos blev den amerikanske regissören och skådespelaren Jordan Peele rösten till USA:s 44:e president. Men för närvarande är artificiell intelligens redan kapabel att generera en röst baserad på arkivinspelningar av en person som ska förekomma i en falsk film.
Sådan avancerad teknik kan bli ett farligt verktyg i händerna på cyberbrottslingar och internetbedragare i framtiden. Publicering av falska videor av tal av viktiga politiker kan orsaka verklig skada på internationell nivå. Sådana filmer, baserade på deepfake-teknologi, kan orsaka diplomatiska konflikter och skandaler och därför påverka opinionen och människors beteende.
Ett annat potentiellt hot är barnförbjudet innehåll, som alltid har genererat mest trafik i det virtuella rummet. Det är inte konstigt att deepfake-tekniken träffar Internet så snabbt. Enligt en rapport från det holländska cybersäkerhetsföretaget Deeptrace är 96 % av de tillverkade videor som skapats med deepfake-teknik innehåll om sådana ämnen. Oftast används bilder av filmstjärnor, idrottare och till och med politiker och representanter för regeringen för produktion av sådant material.
Läs också: Varför ett rymduppdrag inte kan flyga när som helst: Vad är ett uppskjutningsfönster?
Hur gör man en deepfake?
Om någon kan göra deepfake-videor, kan de också göras hemma? Definitivt ja, men deras kvalitet kommer naturligtvis inte att vara perfekt. Att skapa sådana videor kräver stora datorresurser och kraftfulla grafikkort. De som vi vanligtvis har i hemdatorer räcker inte, och själva utvecklingsprocessen kan pågå i veckor. Kvaliteten på filmerna kommer också att lämna mycket övrigt att önska - det kommer att finnas synliga fel, munrörelser kanske inte motsvarar ljudet, det kommer att finnas synliga platser där det "gamla" innehållet överlappar det "nya".
Men om vi vill "touch up" ett foto eller göra en kort deepfake-video, kan programmet för detta laddas ner direkt till smarttelefonen. Det mycket lättanvända programmet kommer på några minuter att eliminera utseendets brister, göra dig till den utvalda kändisen eller låta din hund tala med en mänsklig röst.
Läs också:
- Att observera den röda planeten: A History of Martian Illusions
- Teleportering ur vetenskaplig synvinkel och dess framtid
Hur känner man igen en deepfake?
Professionella deepfake-videor blir svårare och svårare att upptäcka. Till en början hade algoritmerna problem med grundläggande beteende (som att blinka med ögonen), och det stod direkt klart att filmen var en bluff. Detta fel har nu åtgärdats. De falska karaktärerna blinkar, rör sig naturligt och talar flytande. Men ibland har de fortfarande problem med naturliga ögonrörelser.
Så, hur upptäcker man en deepfake? Här är vad du bör vara uppmärksam på när du tittar på videon:
- Håller ljudet med munrörelserna? Ibland matchar de inte riktigt, och personen i videon rör på läpparna med en fördröjning i förhållande till ljudet, eller formulerar ord felaktigt.
- Alla typer av fenomen som verkar onaturliga. Vi pratar här om bland annat hela kroppens eller huvudets position i förhållande till bålen, felaktig ljusreflektion på föremål, felaktig ljusreflektion i smycken m.m. En onaturlig hudfärg kan också vara ett tecken på att filmen är falsk.
- Ljud- och bildkvalitet. Skillnaden mellan dem hjälper till att upptäcka en deepfake. Vanligtvis är ljudspåret av sämre kvalitet.
- Oregelbundenheter i bilden. Oftast visas de i korsningen mellan kroppen och huvudet. När en kändis huvud är "limmat" på en annan kropp kan en oskärpa uppstå i nackområdet. Ibland förekommer ramhopp (intermittens) och ramfel (olika ljusvinkel, typ eller riktning).
- Att ändra hashtaggen under videon kan också innebära att vi har en deepfake-video.
När du tittar på material ur deepfake synvinkel är det också värt att lita på dina egna känslor. Ibland får vi intrycket att något är "fel". Detta händer bland annat när känslorna hos personen som avbildas på skärmen inte stämmer överens med vad ansiktsuttrycket eller rösttonen visar oss. Detta tyder också på att videon kan ha blivit falsk.
Också intressant:
- 10 konstigaste saker vi lärde oss om svarta hål 2021
- Terraforming Mars: Kan den röda planeten förvandlas till en ny jord?
Hur skyddar du dig från deepfake?
För att undvika en djup falsk bluff rekommenderar experter att du följer dessa steg:
- Skapa ett hemligt ord eller slogan med nära och kära, som familjemedlemmar eller kollegor, som kommer att bevisa verkligheten i situationen med en video eller inspelning. Detta gör att du snabbt kan verifiera att situationen är falsk och undvika till exempel utpressning av pengar.
- Kom överens med släktingar eller kollegor om en lista med information som aldrig kommer att frågas om via meddelanden, till exempel på sociala nätverk eller SMS. Det är absolut nödvändigt att alla berörda parter informeras om den verkliga omfattningen av faran.
- Implementering av multifaktorautentiseringskanaler för att verifiera varje begäran. Om kommunikationen börjar med ett sms är det säkraste sättet att bekräfta informationen att kontakta avsändaren av meddelandet i form av en konversation via en i förväg överenskommen och säker kommunikationskanal.
- Kontinuerlig förbättring av säkerhetskompetensen, till exempel i form av personalutbildning om säkerhet och cyberbrottslighet. Öka medvetenheten om vad deepfake är och hur man kan motverka detta hot.
- Stöd och utveckling av säkerhetssystem i informations- och kommunikationsteknik (IKT) miljöer.
Var kan du stöta på en deepfake?
Falskt material kan hittas varhelst det kan nå en stor publik, det vill säga den potentiella deepfake-publiken. Facebook, Instagram, TikTok och andra sociala medier är fulla av den här typen av saker.
Det här är inte bara fantastiska videor, utan också "raffinerade" foton och ljudinspelningar. Några av de autentiska kändisprofilerna har ibland varit helt fyllda med deepfake-grejer!
Det här är inte det enda stället där du kan hitta en deepfake. En applikation för en smartphone är också baserad på denna teknik, som gör att du kan lägga till en mustasch och skägg eller andra specialeffekter till ett foto (till exempel åldras med flera decennier). Så det kan visa sig att den senaste bilden du fick av dina vänner är lite "underritad".
Också intressant:
Deepfake-filmer är inte bara pornografiska
Användningen av deepfake kan vara både positiv och negativ. Deepfake-filmer kan vara lekfulla eller underhållande. Här bör vi nämna videon på drottning Elizabeth som dansar på bordet under nyårsbudskapet. Detta är också syftet med de flesta fotomodifieringar vi gör med deepfake-appen på våra smartphones. Det ska vara roligt och roligt.
Deepfake-material kan också spela en pedagogisk roll, till exempel "återuppliva" redan döda artister, sångare eller musiker. Vissa museer, i synnerhet Salvador Dali Museum i Florida, använder denna teknik, där besökare "presenteras" med sina verk av konstnären själv, som du kan prata med och till och med ta bilder med.
Deepfake-teknik används i röstgeneratorer - enheter designade för människor som har tappat förmågan att tala. Tack vare dem kan sådana människor fortfarande tala till oss med sin egen röst. Val Kilmers röst, som han förlorade på grund av cancer i struphuvudet, modellerades i Top Gun: Maverick.
Tyvärr har vi också många exempel på negativa användningar av deepfaking. Politik är ett exempel där den här sortens falsk information kan få långtgående, globala konsekvenser, som att misskreditera offentliga personer, påverka börsen, ekonomin eller valresultaten eller till och med bedriva krigföring i ett krig. En väl förberedd skiva gör det lättare att manipulera den allmänna opinionen. Den progressiva utvecklingen av teknologier kommer att göra det ännu svårare att skilja äkta material från förfalskningar. Så detta är ett steg mot att socialt förtroende och informationskaos faller.
Deepfake-videor, som vi redan nämnt, är utbredda i porrindustrin. Oftast består förändringarna i att ersätta porrskådespelerskans/skådespelarens ansikte med ansiktet på kändisar eller filmstjärnor, naturligtvis, utan deras samtycke.
Läs också: Bemannade rymduppdrag: Varför är återvändande till jorden fortfarande ett problem?
Deepfake är ett verkligt hot mot oss alla
Deepfake är inte bara ett problem för skådespelare och politiker. Vem som helst kan drabbas av falskt innehåll. Ett inslag av utpressning och utpressning kan vara en påhittad video där vi begår ett brott eller hamnar i en tvetydig situation – antingen betalar du eller så avslöjar vi. Om du arbetar i näringslivet måste du förstå att det finns en fara med att använda deepfake för att misskreditera företaget bland dess motparter.
Ökningen av mängden manipulativt material kan också påverka den sociala tilliten och förtroendet för den information som ges. Hur kan man tro något när en film som är bevis i en domstol kan vara falsk och nyhetsrapporter om obefintliga händelser?
Teknik som låter dig skapa en skadlig bild, ljudinspelning eller film vars karaktärer liknar andra människor är en ny nivå av hot från cyberbrottslingar. Särskilt med tanke på det faktum att de i sociala nätverk kan dra nästan obegränsade resurser av källmaterial för att skapa deepfakes.
Programvara för maskininlärning kan söka i Facebook abo Instagram, till exempel, och fånga intressanta foton eller videor av potentiella "skådespelare". Utifrån detta kan en mycket tydlig röst, bild och video av personen skapas, men med en speciellt skapad falsk vädjan som simulerar till exempel att vara i allvarliga problem – som offer för en kidnappning eller en olycka. I nästa steg genereras en falsk förfrågan om hjälp, till exempel ekonomisk, riktad till anhöriga till "offret".
Läs också: James Webb rymdteleskop: 10 mål att observera
Kampen mot deepfake
Flödet av falsk information är så stort att många sociala nätverk har beslutat att slåss mot deepfakes. Facebook і Twitter försök att upptäcka falska videor och ta bort dem automatiskt. Stora företag (inklusive Microsoft eller Amazon) investerar i programvara som kommer att upptäcka falskt innehåll. Forskare arbetar också med en lösning på detta problem.
Men i en situation där en smartphone-app räcker för att skapa en falsk film, är att bekämpa en deepfake som att slåss mot väderkvarnar. Det finns inte heller några rättsliga normer som skulle avgöra konsekvenserna av att manipulera information eller använda någon annans bild på detta sätt.
Deepfake blir mer och mer populärt, och det är allt svårare att skilja det från sanningen. Detta beror på förbättringen av teknologier som bättre kan imitera mänskliga rörelser och gester. Deepfakes kan användas för bra syften, som att skapa utbildningsmaterial eller hjälpa människor som tappat rösten efter larynxoperationer, men de är också ett verktyg för hackare, utpressare och internettroll.
Så om du stöter på en fantastisk video igen på Internet, kontrollera först om den ibland är modifierad eller falsk. Kanske var det du tittar på aldrig i verkligheten!
Läs också:
Glöm dock inte att det pågår ett krig i Ukraina. Om du vill hjälpa Ukraina att bekämpa de ryska ockupanterna är det bästa sättet att göra det att donera till Ukrainas väpnade styrkor genom Rädda liv eller via den officiella sidan NBU.