Vineri, 29 martie 2024

desktop v4.2.1

Root NationARTICOLETehnologiiCe este un deepfake, cât de periculos este și cum să-l recunoaștem

Ce este un deepfake, cât de periculos este și cum să-l recunoaștem

-

Astăzi vom vorbi despre deepfake, care a devenit acum larg răspândit și un fenomen destul de comun. Datorită acestei tehnologii, manipularea informației a atins un nou nivel.

Ați văzut-o pe Regina Elisabeta dansând pe masă în timpul difuzării mesajului de Anul Nou? Sau ai ascultat discursul lui Kim Jong-un despre democrație, sau l-a admirat pe Salvador Dali, care a vorbit despre moartea sa (de ce nu crede în ea)?

Toate aceste videoclipuri uimitoare au un lucru în comun - sunt false. Deepfake este o tehnică de creare și publicare a informațiilor false sub formă de videoclipuri, audio și fotografii. Devine din ce în ce mai ușor să dai peste astfel de materiale, așa că am pregătit pentru tine o instrucțiune despre crearea, recunoașterea și căutarea videoclipurilor deepfake pe Internet.

Citeste si: Blockchain-urile de mâine: viitorul industriei criptomonedelor în cuvinte simple

Deepfake - ce este?

Deepfake (Deepfake) este, de fapt, un material foto, video sau audio care nu este real, fals, adică fals. Deepfake (combinația a două cuvinte - deep learning „deep learning” și fake „fake”) folosește inteligența artificială (AI) pentru deep learning pentru a crea asemănarea unei persoane cu alta în videoclipuri și alte materiale media digitale. Este creat de algoritmi bazați pe eșantioane reale de voce, sunet, video sau fotografii, care sunt legate împreună. Algoritmul preia informațiile selectate din mai multe locuri diferite și apoi le combină într-un singur material. Ca rezultat, se creează ceva nou (fals), care se bazează pe o combinație de date reale diferite.

Deepfake

Dar asta nu este tot. Deepfake poate, de asemenea, să „picteze” o fotografie de la zero, de exemplu creând fețele unor personaje care nu au existat niciodată.

Care este scopul unor astfel de acțiuni? Printre altele, Deepfake este folosit pentru a răspândi informații incorecte pe Internet (de exemplu, despre personalități sau evenimente politice), furt (de exemplu, falsificarea comenzilor vocale) și crearea de pornografie (filme cu vedete - porno deepfake). Poate fi folosit și în scopuri educaționale și de divertisment.

Citeste si: Despre calculatoarele cuantice în cuvinte simple

Deepfake - Cum funcționează?

În general, există două moduri de a crea material deepfake. Prima metodă utilizează doi algoritmi. În primul rând, primul (encoder) caută caracteristicile comune ale două imagini (cele care urmează să fie combinate într-una), apoi al doilea (decodor) le poate transfera în imaginea nou creată. De exemplu, dacă vrem să creăm un videoclip în care un actor s-ar mișca ca noi, codificatorul preia mișcarea din videoclipul în care dansăm, iar decodorul va înlocui deja fața noastră cu cea a actorului și îl va face să reproducă mișcările noastre. . Cheia aici sunt acțiunile selectate care sunt copiate în noua imagine (de exemplu, mișcări, gesturi, expresii faciale).

- Publicitate -

A doua cale este prin intermediul rețelelor generative adversariale (GAN), unde doi algoritmi lucrează împreună. Primul se numește generator deoarece, folosind informații generale, creează imagini (de exemplu, imaginea unei persoane) care combină trăsăturile sale distinctive (o persoană are un corp, o față, ochi). Al doilea algoritm este un discriminator care evaluează dacă imaginile date de generator sunt adevărate sau nu.

Deepfake

În timp, ambii algoritmi devin mai avansați, așa că învață și se perfecționează singuri. Dacă generatorul este antrenat în așa fel încât discriminatorul să nu recunoască o fotografie falsă (o consideră reală), procesul este complet.

O cantitate mare de software contrafăcut poate fi găsită pe GitHub, o comunitate open source pentru scripturi, programe și cod. Unele dintre aceste programe sunt folosite exclusiv în scopuri de divertisment, așa că crearea unui deepfake nu este interzisă, cu toate acestea, multe dintre ele pot fi folosite și în scopuri criminale.

Mulți experți consideră că în viitor, odată cu dezvoltarea tehnologiilor, deepfake-urile vor deveni mult mai complexe și pot crea amenințări mai grave pentru societate, legate de interferența în alegeri, crearea de tensiuni politice și activități criminale.

Citeste si:

Amenințarea Deepfake - de când există?

Pentru prima dată, astfel de informații false au apărut în 2017. Atunci utilizatorul este un alias deepfake a publicat pe Reddit mai multe filme pornografice în care au fost implicate celebrități, inclusiv Scarlett Johansson, Gal Gadot și Taylor Swift. De atunci, această industrie s-a dezvoltat rapid, deoarece aproape oricine poate filma filme deepfake.

https://youtu.be/IvY-Abd2FfM

În ultimii ani, tehnologia deepfaking-ului s-a dezvoltat atât de mult încât acum este din ce în ce mai dificil să se determine dacă este un videoclip fabricat sau o înregistrare autentică a unor oameni reali. Un exemplu poate fi un videoclip cu un mesaj de la Elisabeta a II-a sau un discurs al lui Barack Obama, care a fost publicat rapid pe multe site-uri diferite. Videoclipul cu declarația fostului președinte american a abordat amenințările globale care pot fi cauzate de dezinformarea și știrile false publicate pe internet. În materialul publicat de canalul BuzzFeedVideos, regizorul și actorul american Jordan Peele a devenit vocea celui de-al 44-lea președinte al Statelor Unite. Cu toate acestea, în prezent inteligența artificială este deja capabilă să genereze o voce bazată pe înregistrările de arhivă ale unei persoane care ar trebui să apară într-un film fals.

Astfel de tehnologii avansate pot deveni în viitor un instrument periculos în mâinile infractorilor cibernetici și a fraudătorilor pe internet. Publicarea de videoclipuri false cu discursuri ale unor politicieni importanți poate provoca pagube reale la nivel internațional. Astfel de filme, bazate pe tehnologie deepfake, pot provoca conflicte diplomatice și scandaluri și, prin urmare, influențează opinia publică și comportamentul oamenilor.

O altă potențială amenințare este conținutul pentru adulți, care a generat întotdeauna cel mai mare trafic în spațiul virtual. Nu este de mirare că tehnologia deepfake a ajuns atât de repede pe internet. Potrivit unui raport al companiei olandeze de securitate cibernetică Deeptrace, 96% dintre videoclipurile fabricate create folosind tehnologia deepfake sunt conținute pe astfel de subiecte. Cel mai adesea, imaginile vedetelor de film, sportivilor și chiar politicienilor și reprezentanților guvernului sunt folosite pentru producerea unor astfel de materiale.

Citeste si: De ce o misiune spațială nu poate zbura în niciun moment: Ce este o fereastră de lansare?

- Publicitate -

Cum să faci un deepfake?

Dacă cineva poate face videoclipuri deepfake, pot fi făcute și acasă? Cu siguranță da, dar calitatea lor, desigur, nu va fi perfectă. Crearea unor astfel de videoclipuri necesită resurse de calcul mari și plăci video puternice. Cele pe care le avem de obicei în computerele de acasă nu sunt suficiente, iar procesul de dezvoltare în sine poate dura săptămâni. Calitatea filmelor va lăsa, de asemenea, mult de dorit - vor fi erori vizibile, mișcările gurii pot să nu corespundă sunetului, vor fi locuri vizibile în care conținutul „vechi” se suprapune cu „noul”.

Totuși, dacă dorim să „retușăm” ușor o fotografie sau să facem un scurt videoclip deepfake, programul pentru aceasta poate fi descărcat direct pe smartphone. Programul foarte ușor de utilizat va elimina în câteva minute defectele aspectului, te va transforma în celebritatea aleasă sau va permite câinelui tău să vorbească cu voce umană.

Citeste si:

Cum să recunoști un deepfake?

Videoclipurile profesionale deepfake devin din ce în ce mai greu de observat. La început, algoritmii au avut probleme cu comportamentul de bază (cum ar fi clipirea ochilor) și a fost imediat clar că filmul era un fals. Această eroare a fost acum remediată. Personajele false clipesc, se mișcă natural și vorbesc fluent. Cu toate acestea, uneori au încă probleme cu mișcarea naturală a ochilor.

Deepfake

Deci, cum să depistați un deepfake? Iată la ce ar trebui să fiți atenți când vizionați videoclipul:

  • Sunetul ține pasul cu mișcările gurii? Uneori nu se potrivesc prea bine, iar persoana din videoclip își mișcă buzele cu o întârziere în raport cu sunetul sau articulează incorect cuvintele.
  • Tot felul de fenomene care par nenaturale. Vorbim aici, printre altele, despre poziția întregului corp sau a capului în raport cu trunchiul, reflectarea incorectă a luminii asupra obiectelor, reflectarea incorectă a luminii în bijuterii etc. O culoare nenaturală a pielii poate fi, de asemenea, un semn că filmul este fals.
  • Calitate audio și video. Diferența dintre ele va ajuta la detectarea unui deepfake. De obicei, coloana sonoră este de o calitate mai slabă.
  • Nereguli de imagine. Cel mai adesea, ele apar la joncțiunea corpului și a capului. Când capul unei celebrități este „lipit” de un alt corp, poate apărea o neclaritate în zona gâtului. Uneori există sărituri de cadre (intermitență) și erori de cadre (unghi, tip sau direcție de lumină diferit).
  • Schimbarea hashtag-ului în timpul videoclipului poate însemna și că avem un videoclip deepfake.

Când vizualizați materiale din punctul de vedere al deepfake-ului, merită să vă bazați și pe propriile sentimente. Uneori avem impresia că ceva este „în neregulă”. Acest lucru se întâmplă, printre altele, atunci când emoțiile persoanei înfățișate pe ecran nu se potrivesc cu ceea ce ne arată expresia facială sau tonul vocii. Acest lucru sugerează, de asemenea, că videoclipul ar fi fost fals.

Interesant de asemenea:

Cum să te protejezi de deepfake?

Pentru a evita o înșelătorie falsă profundă, experții recomandă să urmați acești pași:

  • Creați un cuvânt sau un slogan secret cu cei dragi, cum ar fi membrii familiei sau colegii, care vor demonstra realitatea situației printr-un videoclip sau o înregistrare. Acest lucru vă va permite să verificați rapid falsitatea situației și să evitați, de exemplu, extorcarea de bani.
  • Cadeți de acord cu rudele sau colegii asupra unei liste de informații despre care nu va fi niciodată întrebat prin mesaje, de exemplu, pe rețelele sociale sau prin SMS. Este imperativ ca toate părțile interesate să fie informate cu privire la adevărata amploare a pericolului.
  • Implementarea canalelor de autentificare multifactorială pentru verificarea fiecărei cereri. Dacă comunicarea începe cu un mesaj text, atunci cea mai sigură modalitate de a confirma informația este să contactați expeditorul mesajului sub forma unei conversații printr-un canal de comunicare pre-acordat și sigur.
  • Îmbunătățirea continuă a competențelor de securitate, de exemplu sub formă de formare a personalului privind securitatea și criminalitatea cibernetică. Creșterea gradului de conștientizare cu privire la ce este deepfake și cum să contracarăm această amenințare.
  • Sprijin și dezvoltare de sisteme de securitate în mediile tehnologiei informației și comunicațiilor (TIC).

Unde poți întâlni un deepfake?

Materialul fals poate fi găsit oriunde poate ajunge la un public larg, adică la potențiala audiență deepfake. Facebook, Instagram, TikTok și alte site-uri de social media sunt pline de astfel de lucruri.

Acestea nu sunt doar videoclipuri uimitoare, ci și fotografii „rafinate” și înregistrări audio. Unele dintre profilurile autentice de celebrități au fost uneori complet pline de lucruri deepfake!

Acesta nu este singurul loc unde puteți găsi un deepfake. Pe această tehnologie se bazează și o aplicație pentru un smartphone, care vă permite să adăugați la o fotografie o mustață și o barbă sau alte efecte speciale (de exemplu, îmbătrânirea cu câteva decenii). Așa că se poate dovedi că ultima fotografie pe care ai primit-o de la prietenii tăi este puțin „subtrasă”.

Interesant de asemenea:

Filmele deepfake nu sunt doar pornografice

Utilizarea deepfake-ului poate fi atât pozitivă, cât și negativă. Filmele deepfake pot fi jucăușe sau distractive. Aici ar trebui să amintim videoclipul cu Regina Elisabeta dansând pe masă în timpul mesajului de Anul Nou. Acesta este și scopul majorității modificărilor foto pe care le facem cu aplicația deepfake pe smartphone-urile noastre. Ar trebui să fie amuzant și distractiv.

Materialele deepfake pot juca și un rol educațional, de exemplu, „reînvie” artiști, cântăreți sau muzicieni deja morți. Unele muzee, în special, Muzeul Salvador Dali din Florida, folosesc această tehnologie, unde vizitatorii sunt „prezentate” cu lucrările lor de către artistul însuși, cu care poți vorbi și chiar să faci poze.

Tehnologia Deepfake este folosită în generatoarele de voce - dispozitive concepute pentru persoanele care și-au pierdut capacitatea de a vorbi. Datorită lor, astfel de oameni încă ne pot vorbi cu propria lor voce. Vocea lui Val Kilmer, pe care a pierdut-o din cauza cancerului laringian, a fost modelată în Top Gun: Maverick.

Din păcate, avem și multe exemple de utilizări negative ale deepfaking-ului. Politica este un exemplu în care acest tip de informații false pot avea consecințe globale, de anvergură, cum ar fi discreditarea personalităților publice, influențarea bursei, a economiei sau a rezultatelor alegerilor sau chiar desfășurarea unui război într-un război. O înregistrare bine pregătită facilitează manipularea opiniei publice. Dezvoltarea progresivă a tehnologiilor va face și mai dificilă distingerea materialelor reale de falsuri. Deci, acesta este un pas către căderea încrederii sociale și a haosului informațional.

Videoclipurile deepfake, așa cum am menționat deja, sunt larg răspândite în industria porno. Cel mai adesea, schimbările constau în înlocuirea chipului actriței/actorului porno cu chipul vedetelor sau vedetelor de cinema, desigur, fără acordul acestora.

Citeste si: Misiuni spațiale cu echipaj: de ce este încă o problemă întoarcerea pe Pământ?

Deepfake este o adevărată amenințare pentru noi toți

Deepfake-ul nu este doar o problemă pentru actori și politicieni. Oricine poate fi afectat de conținut fals. Un element de șantaj și extorcare poate fi un videoclip fabricat în care comitem o crimă sau intrăm într-o situație ambiguă - fie plătiți, fie dezvăluim. Dacă lucrați în afaceri, trebuie să înțelegeți că există pericolul folosirii deepfake-ului pentru a discredita compania în rândul contrapărților săi.

Deepfake

Creșterea cantității de material manipulativ poate afecta, de asemenea, încrederea socială și încrederea în informațiile furnizate. Cum poți să crezi ceva când un film care este o dovadă în instanță poate fi fals și știrile relatează despre evenimente inexistente?

Deepfake

Tehnologia care vă permite să creați o imagine rău intenționată, o înregistrare audio sau un film ale căror personaje seamănă foarte mult cu alte persoane este un nou nivel de amenințare din partea infractorilor cibernetici. Mai ales având în vedere faptul că în rețelele sociale pot atrage resurse aproape nelimitate de material sursă pentru crearea deepfake-urilor.

Software-ul de învățare automată poate căuta Facebook ABO Instagram, de exemplu, și surprindeți fotografii sau videoclipuri interesante ale potențialilor „actori”. Pe această bază, poate fi creată o voce, o imagine și un videoclip foarte clare ale persoanei, dar cu un apel fals special creat, care simulează, de exemplu, a fi în probleme serioase - ca victimă a unei răpiri sau a unui accident. În etapa următoare, se generează o falsă cerere de ajutor, de exemplu financiar, adresată rudelor „victimei”.

Citeste si: Telescopul spațial James Webb: 10 ținte de observat

Lupta împotriva deepfake-ului

Fluxul de informații false este atât de mare încât multe rețele de socializare au decis să lupte împotriva deepfake-urilor. Facebook і Twitter încercați să detectați videoclipurile false și să le ștergeți automat. Marile corporații (inclusiv Microsoft sau Amazon) investesc în software care va detecta conținut fals. Oamenii de știință lucrează și la o soluție la această problemă.

Cu toate acestea, într-o situație în care o aplicație pentru smartphone este suficientă pentru a crea un film fals, lupta împotriva unui deepfake este ca și cum ai lupta împotriva morilor de vânt. De asemenea, nu există norme legale care să determine consecințele manipulării informațiilor sau utilizării imaginii altcuiva în acest fel.

Deepfake

Deepfake-ul devine din ce în ce mai popular și este din ce în ce mai greu să îl deosebești de adevăr. Acest lucru se datorează îmbunătățirii tehnologiilor care pot imita mai bine mișcările și gesturile umane. Deepfake-urile pot fi folosite în scopuri bune, cum ar fi crearea de materiale educaționale sau ajutarea persoanelor care și-au pierdut vocea după o intervenție chirurgicală laringian, dar sunt și un instrument pentru hackeri, șantajiști și trolii de pe internet.

Deci, dacă întâlniți din nou un videoclip uimitor pe Internet, verificați mai întâi dacă este uneori modificat sau fals. Poate că ceea ce te uiți nu a fost niciodată în realitate!

Citeste si:

Totuși, nu uitați că în Ucraina este un război. Dacă doriți să ajutați Ucraina să lupte cu ocupanții ruși, cel mai bun mod de a face acest lucru este să donați Forțelor Armate ale Ucrainei prin Salveaza viata sau prin pagina oficiala NBU.

Yuri Svitlyk
Yuri Svitlyk
Fiu al Munților Carpați, geniu nerecunoscut al matematicii, „avocat”Microsoft, altruist practic, stânga-dreapta
Mai multe de la autor
- Publicitate -
Inscrie-te
Notifică despre
oaspete

0 Comentarii
Recenzii încorporate
Vezi toate comentariile
Alte articole
Abonați-vă pentru actualizări

Comentarii recente

Popular acum
0
Ne plac gândurile voastre, vă rugăm să comentați.x