Danes bomo govorili o globokem ponarejanju, ki je zdaj zelo razširjen in precej pogost pojav. Zahvaljujoč tej tehnologiji je manipulacija informacij dosegla novo raven.
Ste med predvajanjem novoletne poslanice videli plesati kraljico Elizabeto na mizi? Ali poslušal govor Kim Jong-una o demokraciji ali občudoval Salvadorja Dalija, ki je govoril o njegovi smrti (zakaj v to ne verjame)?
Vsi ti neverjetni videoposnetki imajo eno skupno lastnost – so lažni. Deepfake je tehnika ustvarjanja in objavljanja lažnih informacij v obliki video posnetkov, zvoka in fotografij. Na takšne materiale je vedno lažje naleteti, zato smo za vas pripravili navodila za ustvarjanje, prepoznavanje in iskanje deepfake videov na internetu.
Preberite tudi: Blockchains of tomorrow: Prihodnost industrije kriptovalut z enostavnimi besedami
Deepfake - kaj je to?
Deepfake (Deepfake) je pravzaprav foto, video ali zvočni material, ki ni resničen, fejk, tj. Deepfake (kombinacija dveh besed - deep learning "globoko učenje" in fake "fake") uporablja umetno inteligenco (AI) za globoko učenje za ustvarjanje podobnosti ene osebe z drugo v videoposnetkih in drugih digitalnih medijskih materialih. Ustvarjajo ga algoritmi, ki temeljijo na resničnih vzorcih zvoka, videa ali fotografij, ki so sestavljeni skupaj. Algoritem vzame izbrane informacije iz več različnih krajev in jih nato združi v en material. Posledično nastane nekaj novega (lažnega), ki temelji na kombinaciji različnih realnih podatkov.
A to še ni vse. Deepfake lahko tudi "naslika" fotografijo iz nič, na primer z ustvarjanjem obrazov likov, ki nikoli niso obstajali.
Kaj je namen takih dejanj? Deepfake se med drugim uporablja za širjenje napačnih informacij na internetu (na primer o političnih osebnostih ali dogodkih), krajo (na primer ponarejanje glasovnih ukazov) in ustvarjanje pornografije (filmi z zvezdniki – deepfake porn). Lahko se uporablja tudi v izobraževalne in zabavne namene.
Preberite tudi: O kvantnih računalnikih z enostavnimi besedami
Deepfake - Kako deluje?
Na splošno obstajata dva načina za ustvarjanje materiala deepfake. Prva metoda uporablja dva algoritma. Prvi (kodirnik) najprej poišče skupne značilnosti dveh slik (tistih, ki jih je treba združiti v eno), nato pa jih lahko drugi (dekodirnik) prenese na novo ustvarjeno sliko. Na primer, če želimo ustvariti video, v katerem bi se igralec premikal kot mi, kodirnik vzame gibanje iz videa, kjer plešemo, dekoder pa bo že zamenjal naš obraz z obrazom igralca in ga prisilil, da reproducira naše gibe. . Pri tem so ključna izbrana dejanja, ki se kopirajo na novo sliko (na primer gibi, kretnje, obrazna mimika).
Drugi način je prek generativnih kontradiktornih omrežij (GAN), kjer dva algoritma delujeta skupaj. Prvi se imenuje generator, ker s pomočjo splošnih informacij ustvarja slike (na primer podobo osebe), ki združuje njene značilnosti (oseba ima telo, obraz, oči). Drugi algoritem je diskriminator, ki oceni, ali so slike, ki mu jih poda generator, resnične ali ne.
Sčasoma postaneta oba algoritma naprednejša, zato se sama učita in izboljšujeta. Če je generator naučen tako, da diskriminator lažne fotografije ne prepozna (ima jo za resnično), je postopek končan.
Veliko količino ponarejene programske opreme je mogoče najti na GitHubu, odprtokodni skupnosti za skripte, programe in kodo. Nekateri od teh programov se uporabljajo izključno v zabavne namene, zato ustvarjanje deepfake-a ni prepovedano, kljub temu pa se lahko mnogi med njimi uporabljajo tudi v kriminalne namene.
Številni strokovnjaki menijo, da bodo v prihodnosti z razvojem tehnologij deepfaki postali veliko bolj zapleteni in lahko povzročijo resnejše grožnje družbi, povezane z vmešavanjem v volitve, ustvarjanjem političnih napetosti in kriminalnimi dejavnostmi.
Preberite tudi:
- Opazovanje rdečega planeta: zgodovina marsovskih iluzij
- Teleportacija z znanstvenega vidika in njena prihodnost
Grožnja Deepfake - od kdaj obstaja?
Prvič so se takšne lažne informacije pojavile leta 2017. Potem je uporabnik vzdevek deepfake na Redditu objavil več pornografskih filmov, v katerih so bile vpletene znane osebnosti, med drugim Scarlett Johansson, Gal Gadot in Taylor Swift. Od takrat se ta industrija hitro razvija, saj lahko skoraj vsak snema deepfake filme.
https://youtu.be/IvY-Abd2FfM
V zadnjih letih se je tehnologija deepfakinga tako razvila, da je zdaj vse težje ugotoviti, ali gre za izmišljen video ali za pristen posnetek resničnih ljudi. Primer je lahko video s sporočilom Elizabete II. ali govorom Baracka Obame, ki je bil hitro objavljen na številnih različnih straneh. Video z izjavo nekdanjega ameriškega predsednika je obravnaval globalne grožnje, ki jih lahko povzročijo dezinformacije in lažne novice, objavljene na internetu. V gradivu, ki ga je objavil kanal BuzzFeedVideos, je ameriški režiser in igralec Jordan Peele postal glas 44. predsednika ZDA. Trenutno pa je umetna inteligenca že sposobna generirati glas na podlagi arhivskih posnetkov osebe, ki naj bi nastopala v lažnem filmu.
Tako napredne tehnologije lahko v prihodnosti postanejo nevarno orodje v rokah kibernetskih kriminalcev in internetnih goljufov. Objava lažnih posnetkov govorov pomembnih politikov lahko povzroči resnično škodo na mednarodni ravni. Takšni filmi, ki temeljijo na tehnologiji deepfake, lahko povzročijo diplomatske konflikte in škandale ter posledično vplivajo na javno mnenje in vedenje ljudi.
Druga potencialna grožnja so vsebine za odrasle, ki so vedno ustvarile največ prometa v virtualnem prostoru. Ni čudno, da je tehnologija deepfake tako hitro dosegla internet. Po poročilu nizozemskega podjetja za kibernetsko varnost Deeptrace je 96 % izmišljenih videoposnetkov, ustvarjenih s tehnologijo deepfake, vsebina o takšnih temah. Najpogosteje se za izdelavo takšnih materialov uporabljajo podobe filmskih zvezd, športnikov in celo politikov in predstavnikov vlade.
Preberite tudi: Zakaj vesoljska misija ne more poleteti v nobenem trenutku: kaj je izstrelitveno okno?
Kako narediti deepfake?
Če zna kdo narediti deepfake videe, ali jih je mogoče narediti tudi doma? Vsekakor da, vendar njihova kakovost seveda ne bo popolna. Ustvarjanje takšnih videoposnetkov zahteva velike računalniške vire in zmogljive video kartice. Tisti, ki jih imamo običajno v domačih računalnikih, niso dovolj, sam razvojni proces pa lahko traja več tednov. Tudi kakovost filmov bo pustila veliko želenega - vidne bodo napake, gibi ust morda ne bodo ustrezali zvoku, vidna bodo mesta, kjer se "stara" vsebina prekriva z "novo".
Če pa želimo kakšno fotografijo nekoliko »popipati« ali narediti kratek deepfake video, lahko program za to naložimo neposredno na pametni telefon. Program, ki je zelo enostaven za uporabo, bo v nekaj minutah odpravil pomanjkljivosti videza, vas spremenil v izbrano zvezdnico ali vašemu psu omogočil, da govori s človeškim glasom.
Preberite tudi:
- Opazovanje rdečega planeta: zgodovina marsovskih iluzij
- Teleportacija z znanstvenega vidika in njena prihodnost
Kako prepoznati deepfake?
Profesionalne videoposnetke deepfake je vse težje opaziti. Sprva so imeli algoritmi težave z osnovnim vedenjem (kot je mežikanje z očmi) in takoj je bilo jasno, da je film ponaredek. Ta napaka je zdaj odpravljena. Lažni liki mežikajo, se naravno premikajo in govorijo tekoče. Vendar imajo včasih še vedno težave z naravnim gibanjem oči.
Torej, kako prepoznati deepfake? Na kaj morate biti pozorni pri gledanju videa:
- Ali zvok sledi gibom ust? Včasih se ne ujemajo povsem in oseba na videoposnetku premakne ustnice z zakasnitvijo glede na zvok ali nepravilno artikulira besede.
- Vse vrste pojavov, ki se zdijo nenaravni. Tu govorimo med drugim o položaju celega telesa ali glave glede na trup, nepravilnem odboju svetlobe na predmetih, nepravilnem odboju svetlobe pri nakitu itd. Tudi nenaravna barva kože je lahko znak, da je film lažen.
- Kakovost zvoka in videa. Razlika med njima bo pomagala odkriti deepfake. Običajno je zvočni posnetek slabše kakovosti.
- Nepravilnosti slike. Najpogosteje se pojavijo na stičišču telesa in glave. Ko je glava slavne osebe "prilepljena" na drugo telo, se lahko v predelu vratu pojavi zamegljenost. Včasih pride do preskakov okvirjev (prekinitev) in napak okvirjev (različni kot, vrsta ali smer svetlobe).
- Spreminjanje hashtaga med videom lahko pomeni tudi, da imamo deepfake video.
Ko gledate materiale z vidika deepfake, se je vredno zanesti tudi na lastne občutke. Včasih dobimo vtis, da je nekaj »narobe«. To se med drugim zgodi, ko se čustva osebe, upodobljene na zaslonu, ne ujemajo s tem, kar nam kaže obrazna mimika ali ton glasu. To tudi nakazuje, da je bil video morda ponarejen.
Zanimivo tudi:
- 10 najbolj nenavadnih stvari, ki smo se jih naučili o črnih luknjah leta 2021
- Teraformiranje Marsa: Ali se lahko Rdeči planet spremeni v novo Zemljo?
Kako se zaščititi pred deepfake?
Da bi se izognili globoki lažni prevari, strokovnjaki svetujejo naslednje korake:
- Ustvarite skrivno besedo ali slogan z bližnjimi, kot so družinski člani ali sodelavci, ki bodo z videom ali posnetkom dokazali resničnost situacije. To vam bo omogočilo, da hitro preverite lažnost situacije in se izognete na primer izsiljevanju denarja.
- S sorodniki ali sodelavci se dogovorite o seznamu informacij, o katerih nikoli ne boste spraševali prek sporočil, na primer v družabnih omrežjih ali SMS. Nujno je, da so vsi zainteresirani seznanjeni z dejanskim obsegom nevarnosti.
- Implementacija kanalov večfaktorske avtentikacije za preverjanje vsake zahteve. Če se komunikacija začne s sms sporočilom, potem je najvarnejši način za potrditev informacije ta, da kontaktirate pošiljatelja sporočila v obliki pogovora po vnaprej dogovorjenem in varnem komunikacijskem kanalu.
- Nenehno izboljševanje varnostne usposobljenosti, na primer v obliki usposabljanja osebja o varnosti in kibernetskem kriminalu. Ozaveščanje o tem, kaj je deepfake in kako se zoperstaviti tej grožnji.
- Podpora in razvoj varnostnih sistemov v okoljih informacijske in komunikacijske tehnologije (IKT).
Kje lahko naletite na deepfake?
Lažno gradivo je mogoče najti povsod, kjer lahko doseže veliko občinstvo, tj. potencialno občinstvo deepfake. Facebook, Instagram, TikTok in druga spletna mesta družbenih medijev so polna tovrstnih stvari.
To niso le neverjetni videi, ampak tudi "prečiščene" fotografije in zvočni posnetki. Nekateri pristni profili slavnih so bili včasih popolnoma napolnjeni z globoko lažnimi stvarmi!
To ni edino mesto, kjer lahko najdete deepfake. Na tej tehnologiji temelji tudi aplikacija za pametni telefon, ki fotografiji omogoča dodajanje brkov in brade ali drugih posebnih učinkov (na primer postaranje za več desetletij). Tako se lahko izkaže, da je zadnja fotografija, ki ste jo prejeli od prijateljev, malo "podrisana".
Zanimivo tudi:
Deepfake filmi niso le pornografski
Uporaba deepfake je lahko pozitivna in negativna. Deepfake filmi so lahko igrivi ali zabavni. Tu velja omeniti posnetek kraljice Elizabete, ki pleše na mizi med novoletno poslanico. To je tudi namen večine modifikacij fotografij, ki jih naredimo z aplikacijo deepfake na svojih pametnih telefonih. Moralo bi biti smešno in zabavno.
Materiali Deepfake imajo lahko tudi izobraževalno vlogo, na primer »obudijo« že mrtve umetnike, pevce ali glasbenike. Nekateri muzeji, zlasti muzej Salvadorja Dalija na Floridi, uporabljajo to tehnologijo, kjer obiskovalcem svoja dela "predstavi" sam umetnik, s katerim se lahko pogovarjate in celo fotografirate.
Tehnologija Deepfake se uporablja v glasovnih generatorjih – napravah, namenjenih ljudem, ki so izgubili sposobnost govora. Po njihovi zaslugi nam takšni ljudje še vedno lahko govorijo s svojim glasom. Glas Vala Kilmerja, ki ga je izgubil zaradi raka na grlu, je bil oblikovan v Top Gun: Maverick.
Na žalost imamo tudi veliko primerov negativne uporabe globokega ponarejanja. Politika je primer, ko imajo tovrstne napačne informacije lahko daljnosežne, globalne posledice, kot so diskreditacija javnih osebnosti, vplivanje na borzo, gospodarstvo ali rezultate volitev ali celo vodenje vojskovanja v vojni. Z dobro pripravljenim zapisom je lažje manipulirati z javnim mnenjem. Zaradi naprednega razvoja tehnologij bo še težje razlikovati prave materiale od ponaredkov. To je torej korak k padcu družbenega zaupanja in informacijskega kaosa.
Deepfake videi so, kot smo že omenili, zelo razširjeni v porno industriji. Najpogosteje so spremembe sestavljene iz zamenjave obraza porno igralke/igralca z obrazi zvezdnikov ali filmskih zvezdnikov, seveda brez njihove privolitve.
Preberite tudi: Vesoljske misije s posadko: Zakaj je vrnitev na Zemljo še vedno problem?
Deepfake je resnična grožnja za vse nas
Deepfake ni samo problem za igralce in politike. Lažna vsebina lahko prizadene vsakogar. Element izsiljevanja in izsiljevanja je lahko izmišljen posnetek, v katerem storimo kaznivo dejanje ali pridemo v dvoumno situacijo – ali plačaš ali razkrijemo. Če delate v podjetju, morate razumeti, da obstaja nevarnost uporabe deepfake za diskreditacijo podjetja med nasprotnimi strankami.
Povečanje količine manipulativnega gradiva lahko vpliva tudi na socialno zaupanje in zaupanje v posredovane informacije. Kako lahko karkoli verjameš, ko je lahko film, ki je dokaz na sodišču, lažen, novice pa poročajo o neobstoječih dogodkih?
Tehnologija, ki omogoča ustvarjanje zlonamerne slike, zvočnega posnetka ali filma, katerega liki so zelo podobni drugim ljudem, je nova stopnja grožnje kibernetskih kriminalcev. Še posebej glede na dejstvo, da lahko v družbenih omrežjih črpajo skoraj neomejene vire izvornega materiala za ustvarjanje deepfake.
Programska oprema za strojno učenje lahko išče Facebook abo Instagram, na primer, in ujeti zanimive fotografije ali videe potencialnih "igralcev". Na tej podlagi je mogoče ustvariti zelo jasen glas, sliko in video osebe, vendar s posebej ustvarjenim lažnim pozivom, ki simulira na primer, da je v resnih težavah – kot žrtev ugrabitve ali nesreče. Na naslednji stopnji se ustvari lažna prošnja za pomoč, na primer finančno, naslovljena na sorodnike "žrtve".
Preberite tudi: Vesoljski teleskop James Webb: 10 ciljev za opazovanje
Boj proti deepfake
Tok lažnih informacij je tako velik, da so se mnoga družbena omrežja odločila za boj proti deepfake-om. Facebook і Twitter poskusite odkriti lažne videoposnetke in jih samodejno izbrisati. Velike korporacije (vključno z Microsoft ali Amazon) vlagajo v programsko opremo, ki bo zaznala lažno vsebino. Tudi znanstveniki se ukvarjajo z rešitvijo tega problema.
Vendar pa je v situaciji, ko aplikacija za pametni telefon zadostuje za ustvarjanje lažnega filma, boj proti deepfakeu enak boju proti mlini na veter. Prav tako ni pravnih norm, ki bi določale posledice prirejanja informacij ali tovrstne uporabe tuje podobe.
Deepfake postaja vse bolj priljubljen in vse težje ga ločimo od resnice. To je posledica izboljšanja tehnologij, ki lahko bolje posnemajo človeške gibe in geste. Deepfake je mogoče uporabiti v dobre namene, kot je ustvarjanje izobraževalnih gradiv ali pomoč ljudem, ki so izgubili glas po operaciji grla, so pa tudi orodje za hekerje, izsiljevalce in internetne trole.
Če torej na internetu znova naletite na neverjeten video, najprej preverite, ali je včasih spremenjen ali ponarejen. Morda to, kar gledate, nikoli ni bilo v resnici!
Preberite tudi:
- 100 let kvantne fizike: od teorij dvajsetih let prejšnjega stoletja do računalnikov
- 5 prihodnjih vesoljskih misij, o katerih morate razmišljati
Vendar ne pozabite, da v Ukrajini poteka vojna. Če želite pomagati Ukrajini v boju proti ruskim okupatorjem, je najboljši način za to, da donirate oboroženim silam Ukrajine prek Savelife ali preko uradne strani NBU.