štvrtok 28. marca 2024

desktop v4.2.1

Root NationČLÁNKYtechnológieČo je deepfake, aký je nebezpečný a ako ho rozpoznať

Čo je deepfake, aký je nebezpečný a ako ho rozpoznať

-

Dnes si povieme niečo o deepfake, ktorý sa v súčasnosti stal rozšíreným a celkom bežným javom. Vďaka tejto technológii sa manipulácia s informáciami dostala na novú úroveň.

Videli ste kráľovnú Alžbetu tancovať na stole počas vysielania novoročného posolstva? Alebo počúvali prejav Kim Čong-una o demokracii, či obdivovali Salvadora Dalího, ktorý hovoril o jeho smrti (prečo v ňu neverí)?

Všetky tieto úžasné videá majú jedno spoločné – sú falošné. Deepfake je technika vytvárania a zverejňovania falošných informácií vo forme videí, zvuku a fotografií. Naraziť na takéto materiály je čoraz jednoduchšie, preto sme pre vás pripravili návod na vytváranie, rozpoznávanie a vyhľadávanie deepfake videí na internete.

Prečítajte si tiež: Blockchains zajtrajška: Budúcnosť odvetvia kryptomien jednoduchými slovami

Deepfake - čo to je?

Deepfake (Deepfake) je v skutočnosti fotografia, video alebo zvukový materiál, ktorý nie je skutočný, falošný, teda falošný. Deepfake (kombinácia dvoch slov – hlboké učenie „hlboké učenie“ a falošný „faloš“) využíva umelú inteligenciu (AI) na hlboké učenie na vytvorenie podobnosti jednej osoby s druhou vo videách a iných materiáloch digitálnych médií. Je vytvorený pomocou algoritmov založených na skutočných vzorkách hlasu, zvuku, videa alebo fotografií, ktoré sú navzájom spojené. Algoritmus berie vybrané informácie z mnohých rôznych miest a potom ich spája do jedného materiálu. V dôsledku toho vzniká niečo nové (falošné), čo je založené na kombinácii rôznych reálnych údajov.

Deepfake

To však nie je všetko. Deepfake dokáže „namaľovať“ fotografiu aj od základu, napríklad vytvorením tvárí postáv, ktoré nikdy neexistovali.

Aký je účel takýchto akcií? Deepfake sa okrem iného používa na šírenie nesprávnych informácií na internete (napríklad o politických osobnostiach alebo udalostiach), krádeže (napríklad falšovanie hlasových príkazov) a vytváranie pornografie (filmy s celebritami - deepfake porn). Dá sa využiť aj na vzdelávacie a zábavné účely.

Prečítajte si tiež: O kvantových počítačoch jednoduchými slovami

Deepfake - Ako to funguje?

Vo všeobecnosti existujú dva spôsoby, ako vytvoriť deepfake materiál. Prvá metóda používa dva algoritmy. Najprv prvý (kodér) hľadá spoločné znaky dvoch obrázkov (tie, ktoré sa majú spojiť do jedného), potom ich druhý (dekodér) môže preniesť do novovytvoreného obrázku. Napríklad, ak chceme vytvoriť video, v ktorom by sa herec pohyboval ako my, kodér vezme pohyb z videa, kde tancujeme, a dekodér už nahradí našu tvár tvárou herca a prinúti ho reprodukovať naše pohyby. . Kľúčové sú tu vybrané akcie, ktoré sa skopírujú do nového obrázka (napríklad pohyby, gestá, výrazy tváre).

- Reklama -

Druhý spôsob je prostredníctvom generatívnych adversariálnych sietí (GAN), kde spolupracujú dva algoritmy. Prvý sa nazýva generátor, pretože pomocou všeobecných informácií vytvára obrazy (napríklad obraz človeka), ktoré spájajú jeho rozlišovacie znaky (človek má telo, tvár, oči). Druhým algoritmom je diskriminátor, ktorý vyhodnocuje, či sú obrázky, ktoré mu dáva generátor, pravdivé alebo nie.

Deepfake

Postupom času sa oba algoritmy stávajú pokročilejšími, takže sa učia a zdokonaľujú. Ak je generátor naučený tak, že diskriminátor nerozpozná falošnú fotografiu (považuje ju za skutočnú), proces je dokončený.

Veľké množstvo falošného softvéru možno nájsť na GitHub, komunite open source pre skripty, programy a kód. Niektoré z týchto programov sa používajú čisto na zábavné účely, takže vytváranie deepfake nie je zakázané, mnohé z nich však možno použiť aj na kriminálne účely.

Mnohí odborníci sa domnievajú, že v budúcnosti s rozvojom technológií sa deepfakes stanú oveľa komplexnejšími a môžu predstavovať vážnejšie hrozby pre spoločnosť súvisiace so zasahovaním do volieb, vytváraním politického napätia a kriminálnou činnosťou.

Prečítajte si tiež:

Hrozba Deepfake – odkedy existuje?

Po prvýkrát sa takéto falošné informácie objavili v roku 2017. Potom je používateľ alias deepfake zverejnil na Reddite niekoľko pornografických filmov, v ktorých boli zapojené celebrity, vrátane Scarlett Johansson, Gal Gadot a Taylor Swift. Odvtedy sa toto odvetvie prudko rozvíja, pretože natáčať deepfake filmy môže takmer každý.

https://youtu.be/IvY-Abd2FfM

V posledných rokoch sa technológia deepfakingu natoľko rozvinula, že je v súčasnosti čoraz ťažšie určiť, či ide o vymyslené video alebo skutočnú nahrávku skutočných ľudí. Príkladom môže byť video s odkazom Alžbety II. alebo prejav Baracka Obamu, ktorý bol rýchlo zverejnený na mnohých rôznych stránkach. Video s vyhlásením bývalého prezidenta USA sa venovalo globálnym hrozbám, ktoré môžu spôsobiť dezinformácie a falošné správy zverejnené na internete. V materiáli, ktorý zverejnil kanál BuzzFeedVideos, sa hlasom 44. prezidenta Spojených štátov stal americký režisér a herec Jordan Peele. V súčasnosti je však už umelá inteligencia schopná generovať hlas na základe archívnych záznamov osoby, ktorá sa má objaviť vo falošnom filme.

Takéto pokročilé technológie sa môžu v budúcnosti stať nebezpečným nástrojom v rukách kyberzločincov a internetových podvodníkov. Zverejňovanie falošných videí s prejavmi významných politikov môže spôsobiť skutočné škody na medzinárodnej úrovni. Takéto filmy založené na deepfake technológii môžu spôsobiť diplomatické konflikty a škandály, a teda ovplyvniť verejnú mienku a správanie ľudí.

Ďalšou potenciálnou hrozbou je obsah pre dospelých, ktorý vždy generoval najväčšiu návštevnosť vo virtuálnom priestore. Niet divu, že technológia deepfake zasiahla internet tak rýchlo. Podľa správy holandskej spoločnosti Deeptrace zaoberajúcej sa kybernetickou bezpečnosťou sa 96 % vyrobených videí vytvorených pomocou technológie deepfake týka takýchto tém. Najčastejšie sa na výrobu takýchto materiálov používajú obrazy filmových hviezd, športovcov, dokonca aj politikov a predstaviteľov vlády.

Prečítajte si tiež: Prečo vesmírna misia nemôže kedykoľvek letieť: Čo je štartovacie okno?

- Reklama -

Ako urobiť deepfake?

Ak niekto dokáže robiť deepfake videá, dajú sa robiť aj doma? Určite áno, ale ich kvalita, samozrejme, nebude dokonalá. Vytváranie takýchto videí vyžaduje veľké výpočtové zdroje a výkonné grafické karty. Tie, ktoré bežne máme v domácich počítačoch, nestačia a samotný vývojový proces môže trvať týždne. Kvalita filmov tiež zanechá veľa želaní – budú viditeľné chyby, pohyby úst nemusia zodpovedať zvuku, budú viditeľné miesta, kde sa „starý“ obsah prekrýva s „novým“.

Ak by sme však chceli fotku mierne „oťuknúť“ alebo spraviť krátke deepfake video, program na to sa dá stiahnuť priamo do smartfónu. Veľmi ľahko použiteľný program za pár minút odstráni nedostatky vzhľadu, urobí z vás vybranú celebritu alebo umožní vášmu psovi hovoriť ľudským hlasom.

Prečítajte si tiež:

Ako rozpoznať deepfake?

Profesionálne deepfake videá je čoraz ťažšie rozpoznať. Algoritmy mali spočiatku problémy so základným správaním (napríklad žmurkaním očí) a okamžite bolo jasné, že film je falošný. Táto chyba je už opravená. Falošné postavy blikajú, pohybujú sa prirodzene a hovoria plynule. Niekedy však majú stále problémy s prirodzeným pohybom očí.

Deepfake

Ako teda odhaliť deepfake? Tu je to, na čo by ste mali venovať pozornosť pri sledovaní videa:

  • Drží zvuk krok s pohybmi úst? Niekedy sa úplne nezhodujú a osoba vo videu pohybuje perami s oneskorením v porovnaní so zvukom alebo nesprávne artikuluje slová.
  • Všetky druhy javov, ktoré sa zdajú byť neprirodzené. Hovoríme tu okrem iného o polohe celého tela alebo hlavy voči trupu, nesprávnom odraze svetla na predmetoch, nesprávnom odraze svetla v šperkoch a pod. Príznakom, že film je falošný, môže byť aj neprirodzená farba pleti.
  • Kvalita zvuku a videa. Rozdiel medzi nimi pomôže odhaliť deepfake. Zvuková stopa má zvyčajne horšiu kvalitu.
  • Nezrovnalosti obrazu. Najčastejšie sa objavujú na križovatke tela a hlavy. Keď je hlava celebrity "prilepená" k inému telu, môže sa objaviť rozmazanie v oblasti krku. Niekedy dochádza k preskakovaniu snímok (prerušovanie) a chybám snímky (rôzny uhol svetla, typ alebo smer).
  • Zmena hashtagu počas videa môže tiež znamenať, že máme deepfake video.

Pri prezeraní materiálov z pohľadu deepfake sa oplatí spoľahnúť aj na vlastný pocit. Niekedy máme dojem, že niečo „nie je v poriadku“. Stáva sa to okrem iného vtedy, keď emócie osoby zobrazenej na obrazovke nezodpovedajú tomu, čo nám ukazuje výraz tváre alebo tón hlasu. To tiež naznačuje, že video mohlo byť sfalšované.

Tiež zaujímavé:

Ako sa chrániť pred deepfake?

Aby ste sa vyhli hlbokému falošnému podvodu, odborníci odporúčajú postupovať podľa týchto krokov:

  • Vytvorte tajné slovo alebo slogan s blízkymi, ako sú členovia rodiny alebo kolegovia, ktorí budú dokazovať reálnosť situácie videom alebo záznamom. To vám umožní rýchlo overiť nepravdivosť situácie a vyhnúť sa napríklad vymáhaniu peňazí.
  • Dohodnite sa s príbuznými alebo kolegami na zozname informácií, na ktoré sa nikdy nebudete pýtať prostredníctvom správ, napríklad na sociálnych sieťach alebo SMS. Je nevyhnutné, aby všetky zainteresované strany boli informované o skutočnom rozsahu nebezpečenstva.
  • Implementácia kanálov viacfaktorovej autentifikácie na overenie každej požiadavky. Ak komunikácia začína textovou správou, potom je najbezpečnejším spôsobom potvrdenia informácie kontaktovať odosielateľa správy formou rozhovoru cez vopred dohodnutý a bezpečný komunikačný kanál.
  • Neustále zlepšovanie bezpečnostnej kompetencie, napríklad formou školení zamestnancov o bezpečnosti a počítačovej kriminalite. Zvyšovanie povedomia o tom, čo je deepfake a ako čeliť tejto hrozbe.
  • Podpora a rozvoj bezpečnostných systémov v prostredí informačných a komunikačných technológií (IKT).

Kde sa môžete stretnúť s deepfakeom?

Falošný materiál možno nájsť všade tam, kde môže osloviť veľké publikum, t. j. potenciálne deepfake publikum. Facebook, Instagram, TikTok a ďalšie stránky sociálnych médií sú plné tohto druhu vecí.

Sú to nielen úžasné videá, ale aj „prepracované“ fotografie a zvukové záznamy. Niektoré z autentických profilov celebrít boli niekedy úplne zaplnené hlboko falošnými vecami!

Toto nie je jediné miesto, kde môžete nájsť deepfake. Na tejto technológii je založená aj aplikácia pre smartfón, ktorá umožňuje pridať fotke fúzy a bradu či iné špeciálne efekty (napríklad starnutie o niekoľko desaťročí). Môže sa teda ukázať, že posledná fotografia, ktorú ste dostali od priateľov, je trochu „podkreslená“.

Tiež zaujímavé:

Deepfake filmy nie sú len pornografické

Použitie deepfake môže byť pozitívne aj negatívne. Deepfake filmy môžu byť hravé alebo zábavné. Tu treba spomenúť video kráľovnej Alžbety tancujúcej na stole počas novoročného posolstva. To je aj účelom väčšiny úprav fotografií, ktoré robíme pomocou deepfake aplikácie na našich smartfónoch. Malo by to byť vtipné a zábavné.

Deepfake materiály môžu zohrať aj výchovnú úlohu, napríklad „vzkriesiť“ už mŕtvych umelcov, spevákov či hudobníkov. Niektoré múzeá, najmä Múzeum Salvadora Dalího na Floride, využívajú túto technológiu, kde návštevníkom svoje diela „prezentuje“ samotný umelec, s ktorým sa môžete porozprávať a dokonca sa odfotiť.

Technológia Deepfake sa používa v hlasových generátoroch – zariadeniach určených pre ľudí, ktorí stratili schopnosť hovoriť. Aj vďaka nim sa nám takíto ľudia môžu stále prihovárať vlastným hlasom. Hlas Vala Kilmera, ktorý stratil kvôli rakovine hrtana, bol modelovaný v Top Gun: Maverick.

Bohužiaľ, máme aj veľa príkladov negatívneho využitia deepfakingu. Politika je príkladom, kedy tento druh nepravdivých informácií môže mať ďalekosiahle globálne dôsledky, ako je diskreditácia verejných činiteľov, ovplyvňovanie akciového trhu, ekonomiky či výsledkov volieb, či dokonca vedenie vojny vo vojne. Dobre pripravený záznam uľahčuje manipuláciu verejnej mienky. Postupný vývoj technológií ešte viac sťaží rozlíšenie skutočných materiálov od falošných. Toto je teda krok k pádu spoločenskej dôvery a informačného chaosu.

Deepfake videá, ako sme už spomenuli, sú v porno priemysle rozšírené. Najčastejšie zmeny spočívajú v nahradení tváre porno herečky/herca tvárou celebrít alebo filmových hviezd, samozrejme bez ich súhlasu.

Prečítajte si tiež: Vesmírne misie s ľudskou posádkou: Prečo je návrat na Zem stále problémom?

Deepfake je skutočnou hrozbou pre nás všetkých

Deepfake nie je problém len pre hercov a politikov. Falošný obsah môže ovplyvniť kohokoľvek. Prvok vydierania a vydierania môže byť vymyslené video, v ktorom páchame trestný čin alebo sa dostávame do nejednoznačnej situácie – buď zaplatíte, alebo prezradíme. Ak pracujete v obchode, musíte pochopiť, že existuje nebezpečenstvo použitia deepfake na diskreditáciu spoločnosti medzi jej protistranami.

Deepfake

Nárast množstva manipulatívneho materiálu môže ovplyvniť aj sociálnu dôveru a dôveru v poskytované informácie. Ako môžete niečomu veriť, keď film, ktorý je dôkazom na súde, môže byť falošný a správy informujú o neexistujúcich udalostiach?

Deepfake

Technológia, ktorá vám umožňuje vytvoriť škodlivý obrázok, zvukový záznam alebo film, ktorého postavy sa veľmi podobajú iným ľuďom, predstavuje novú úroveň hrozby zo strany kyberzločincov. Najmä vzhľadom na skutočnosť, že v sociálnych sieťach môžu čerpať takmer neobmedzené zdroje zdrojových materiálov na vytváranie deepfakes.

Softvér strojového učenia dokáže vyhľadávať Facebook abo Instagram, a nachytajte si napríklad zaujímavé fotografie či videá potenciálnych „hercov“. Na tomto základe môže byť vytvorený veľmi jasný hlas, obraz a video osoby, ale so špeciálne vytvoreným falošným odvolaním, ktoré simuluje napríklad vážne problémy - ako obeť únosu alebo nehody. V ďalšej fáze sa vygeneruje falošná žiadosť o pomoc, napríklad finančnú, adresovaná príbuzným „obete“.

Prečítajte si tiež: Vesmírny teleskop Jamesa Webba: 10 cieľov na pozorovanie

Boj proti deepfake

Tok nepravdivých informácií je taký veľký, že mnohé sociálne siete sa rozhodli proti deepfakes bojovať. Facebook і Twitter skúste odhaliť falošné videá a automaticky ich odstrániť. Veľké korporácie (vrátane Microsoft alebo Amazon) investujú do softvéru, ktorý odhalí falošný obsah. Vedci tiež pracujú na riešení tohto problému.

V situácii, keď na vytvorenie falošného filmu stačí aplikácia pre smartfón, je však boj s deepfakeom ako boj s veternými mlynmi. Neexistujú ani právne normy, ktoré by určovali dôsledky takto manipulácie s informáciami alebo používania imidžu niekoho iného.

Deepfake

Deepfake je čoraz populárnejší a je čoraz ťažšie rozlíšiť ho od pravdy. Môže za to zdokonaľovanie technológií, ktoré dokážu lepšie napodobňovať ľudské pohyby a gestá. Deepfakes sa dajú použiť na dobré účely, ako je vytváranie vzdelávacích materiálov alebo pomoc ľuďom, ktorí stratili hlas po operácii hrtana, ale sú aj nástrojom pre hackerov, vydieračov a internetových trollov.

Ak teda na internete opäť narazíte na úžasné video, najskôr si skontrolujte, či nie je niekedy upravené alebo falošné. Možno to, na čo sa pozeráte, nikdy nebolo v skutočnosti!

Prečítajte si tiež:

Nezabúdajte však, že na Ukrajine prebieha vojna. Ak chcete pomôcť Ukrajine v boji proti ruským okupantom, najlepší spôsob, ako to urobiť, je darovať Ozbrojeným silám Ukrajiny prostredníctvom Zachrániť život alebo cez oficiálnu stránku NBU.

Yuri Svitlyk
Yuri Svitlyk
Syn Karpát, neuznaný génius matematiky, „právnik“Microsoft, praktický altruista, ľavo-pravý
Viac od autora
- Reklama -
Prihlásiť Se
Upozorniť na
host

0 Komentáre
Vložené recenzie
Zobraziť všetky komentáre
Ďalšie články
Prihláste sa na odber aktualizácií

Nedávne komentáre

Teraz populárne
0
Milujeme vaše myšlienky, prosím komentujte.x