יום שישי, 29 במרץ, 2024

גרסה 4.2.1 לשולחן העבודה

Root Nationסטטטיטכנולוגיותמהו זיוף עמוק, כמה הוא מסוכן ואיך מזהים אותו

מהו זיוף עמוק, כמה הוא מסוכן ואיך מזהים אותו

-

היום נדבר על deepfake, שהפך כעת לנפוץ ותופעה נפוצה למדי. הודות לטכנולוגיה זו, מניפולציית המידע הגיעה לרמה חדשה.

ראיתם את המלכה אליזבת רוקדת על השולחן במהלך שידור הודעת השנה החדשה? או הקשיבו לנאומו של קים ג'ונג און על דמוקרטיה, או העריץ את סלבדור דאלי, שדיבר על מותו (למה הוא לא מאמין בו)?

לכל הסרטונים המדהימים האלה יש דבר אחד במשותף - הם מזויפים. Deepfake היא טכניקה של יצירה ופרסום של מידע כוזב בצורה של סרטונים, אודיו ותמונות. נעשה קל יותר להיתקל בחומרים כאלה, אז הכנו עבורכם הדרכה ליצירה, זיהוי וחיפוש אחר סרטונים עמוקים מזויפים באינטרנט.

קרא גם: בלוקצ'יין של המחר: העתיד של תעשיית מטבעות הקריפטו במילים פשוטות

Deepfake - מה זה?

Deepfake (Deepfake) הוא, למעשה, חומר תמונה, וידאו או אודיו שאינו אמיתי, מזויף, כלומר מזויף. Deepfake (שילוב של שתי מילים - למידה עמוקה "למידה עמוקה" ו"זיוף מזויף") משתמש בבינה מלאכותית (AI) ללמידה עמוקה כדי ליצור דמיון של אדם אחד עם אחר בסרטונים ובחומרי מדיה דיגיטלית אחרים. הוא נוצר על ידי אלגוריתמים המבוססים על דגימות קול, סאונד, וידאו או תמונות אמיתיות שחוברות זו לזו. האלגוריתם לוקח מידע נבחר ממקומות רבים ושונים ואז משלב אותו לחומר אחד. כתוצאה מכך, נוצר משהו חדש (שקר), שמתבסס על שילוב של נתונים אמיתיים שונים.

Deepfake

אבל זה לא הכל. Deepfake יכול גם "לצייר" תמונה מאפס, למשל על ידי יצירת פרצופים של דמויות שמעולם לא היו קיימות.

מה המטרה של פעולות כאלה? בין היתר, משתמשים ב-Deepfake להפצת מידע שגוי באינטרנט (למשל על דמויות פוליטיות או אירועים), גניבה (למשל, זיוף פקודות קוליות) ויצירת פורנוגרפיה (סרטים עם מפורסמים - פורנו דיפפייק). זה יכול לשמש גם למטרות חינוכיות ובידור.

קרא גם: על מחשבים קוונטיים במילים פשוטות

Deepfake - איך זה עובד?

באופן כללי, ישנן שתי דרכים ליצור חומר מזויף עמוק. השיטה הראשונה משתמשת בשני אלגוריתמים. ראשית, הראשון (המקודד) מחפש תכונות משותפות של שתי תמונות (אלו שיש לשלב לאחת), ואז השני (המפענח) יכול להעביר אותן לתמונה החדשה שנוצרה. למשל, אם אנחנו רוצים ליצור סרטון שבו שחקן יזוז כמונו, המקודד לוקח את התנועה מהסרטון שבו אנחנו רוקדים, והמפענח כבר יחליף את הפנים שלנו בפנים של השחקן ויגרום לו לשחזר את התנועות שלנו. . המפתח כאן הוא הפעולות הנבחרות שמועתקות לתמונה החדשה (לדוגמה, תנועות, מחוות, הבעות פנים).

- פרסום -

הדרך השנייה היא באמצעות רשתות יריבות יצירתיות (GANs), שבהן שני אלגוריתמים עובדים יחד. הראשון נקרא מחולל מכיוון שבאמצעות מידע כללי הוא יוצר דימויים (לדוגמה, דימוי של אדם) המשלבים את תכונותיו הייחודיות (לאדם יש גוף, פנים, עיניים). האלגוריתם השני הוא מפלה שמעריך האם התמונות שניתנו לו על ידי המחולל נכונות או לא.

Deepfake

עם הזמן, שני האלגוריתמים נעשים מתקדמים יותר, כך שהם לומדים ומשפרים את עצמם. אם המחולל מאומן בצורה כזו שהמאבחן לא מזהה תמונה מזויפת (מחשיב אותה לאמיתית), התהליך הושלם.

ניתן למצוא כמות גדולה של תוכנות מזויפות ב-GitHub, קהילת קוד פתוח עבור סקריפטים, תוכניות וקוד. חלק מהתוכניות הללו משמשות אך ורק למטרות בידור, לכן יצירת זיוף עמוק אינה אסורה, עם זאת, רבות מהן יכולות לשמש גם למטרות פליליות.

מומחים רבים מאמינים שבעתיד, עם התפתחות הטכנולוגיות, הזיופים העמוקים יהפכו למורכבים הרבה יותר ועלולים ליצור איומים חמורים יותר על החברה, הקשורים בהתערבות בבחירות, יצירת מתח פוליטי ופעילות פלילית.

קרא גם:

האיום של Deepfake - ממתי הוא קיים?

לראשונה, מידע מזויף כזה הופיע ב-2017. אז המשתמש הוא כינוי עמוק פרסם ב-Reddit כמה סרטי פורנוגרפיה שבהם היו מעורבים סלבריטאים, כולל סקרלט ג'והנסון, גל גדות וטיילור סוויפט. מאז, התעשייה הזו מתפתחת במהירות, כי כמעט כל אחד יכול לצלם סרטי Deepfake.

https://youtu.be/IvY-Abd2FfM

בשנים האחרונות, טכנולוגיית הזיוף העמוקים התפתחה כל כך עד שכעת קשה יותר ויותר לקבוע אם מדובר בסרטון מפוברק או הקלטה אמיתית של אנשים אמיתיים. דוגמה יכולה להיות סרטון עם הודעה מאליזבת השנייה או נאום של ברק אובמה, שפורסם במהירות באתרים רבים ושונים. הסרטון עם הצהרתו של נשיא ארה"ב לשעבר התייחס לאיומים העולמיים שעלולים להיגרם ממידע מוטעה וחדשות מזויפות המתפרסמות באינטרנט. בחומר שפרסם ערוץ BuzzFeedVideos הפך הבמאי והשחקן האמריקאי ג'ורדן פיל לקולו של הנשיא ה-44 של ארצות הברית. עם זאת, כיום בינה מלאכותית כבר מסוגלת להפיק קול המבוסס על הקלטות ארכיון של אדם שאמור להופיע בסרט מזויף.

טכנולוגיות מתקדמות כאלה עלולות להפוך בעתיד לכלי מסוכן בידי פושעי סייבר ורמאים באינטרנט. פרסום סרטונים מזויפים של נאומים של פוליטיקאים חשובים עלול לגרום לנזק של ממש ברמה הבינלאומית. סרטים כאלה, המבוססים על טכנולוגיית Deepfake, יכולים לגרום לסכסוכים דיפלומטיים ושערוריות, ולכן להשפיע על דעת הקהל והתנהגותם של אנשים.

איום פוטנציאלי נוסף הוא תוכן למבוגרים, שתמיד יצר הכי הרבה תנועה במרחב הוירטואלי. אין זה פלא שטכנולוגיית Deepfake הגיעה לאינטרנט כל כך מהר. על פי דיווח של חברת אבטחת הסייבר ההולנדית Deeptrace, 96% מהסרטונים המפוברקים שנוצרו באמצעות טכנולוגיית Deepfake הם תוכן בנושאים כאלה. לרוב, תמונות של כוכבי קולנוע, ספורטאים ואפילו פוליטיקאים ונציגי הממשלה משמשים לייצור חומרים כאלה.

קרא גם: מדוע משימת חלל לא יכולה לטוס בכל רגע: מהו חלון שיגור?

- פרסום -

איך לעשות דיפפייק?

אם מישהו יכול לעשות סרטוני Deepfake, האם אפשר לעשות אותם גם בבית? בהחלט כן, אבל האיכות שלהם, כמובן, לא תהיה מושלמת. יצירת סרטונים כאלה דורשת משאבי מחשוב גדולים וכרטיסי מסך רבי עוצמה. אלה שבדרך כלל יש לנו במחשבים הביתיים אינם מספיקים, ותהליך הפיתוח עצמו יכול להימשך שבועות. גם איכות הסרטים תשאיר הרבה מה לרצות - יהיו שגיאות נראות לעין, תנועות הפה עשויות שלא להתאים לסאונד, יהיו מקומות גלויים שבהם התוכן ה"ישן" חופף ל"חדש".

עם זאת, אם נרצה "לגעת" מעט בתמונה או ליצור סרטון Deepfake קצר, ניתן להוריד את התוכנה לכך ישירות לסמארטפון. התוכנית הקלה מאוד לשימוש תבטל תוך דקות ספורות את פגמי המראה, תהפוך אותך לסלבריטאי הנבחר או תאפשר לכלב שלך לדבר בקול אנושי.

קרא גם:

איך לזהות זיוף עמוק?

קל יותר ויותר לזהות סרטוני Deep Fake מקצועיים. בהתחלה, לאלגוריתמים היו בעיות בהתנהגות בסיסית (כמו מצמוץ עיניים), ומיד היה ברור שהסרט מזויף. שגיאה זו תוקנה כעת. הדמויות המזויפות ממצמצות, זזות בטבעיות ומדברים בצורה שוטפת. עם זאת, לפעמים עדיין יש להם בעיות עם תנועת עיניים טבעית.

Deepfake

אז איך לזהות זיוף עמוק? הנה מה שאתה צריך לשים לב אליו בעת צפייה בסרטון:

  • האם הצליל מסתדר עם תנועות הפה? לפעמים הם לא ממש מתאימים, והאדם בסרטון מזיז את שפתיו באיחור ביחס לצליל, או מנסח מילים בצורה לא נכונה.
  • כל מיני תופעות שנראות לא טבעיות. אנחנו מדברים כאן בין היתר על מיקום כל הגוף או הראש ביחס לפלג הגוף העליון, החזר לא נכון של אור על חפצים, החזר לא נכון של אור בתכשיטים וכו'. צבע עור לא טבעי יכול להיות גם סימן לכך שהסרט מזויף.
  • איכות שמע ווידאו. ההבדל ביניהם יעזור לזהות זיוף עמוק. בדרך כלל הפסקול באיכות ירודה יותר.
  • אי סדרים בתמונה. לרוב, הם מופיעים בצומת של הגוף והראש. כאשר ראשו של ידוען "מודבק" לגוף אחר, עלול להופיע טשטוש באזור הצוואר. לפעמים יש פריים דילוגים (סירוגין) ושגיאות פריים (זווית אור, סוג או כיוון שונה).
  • שינוי ההאשטאג במהלך הסרטון יכול גם אומר שיש לנו סרטון Deepfake.

כאשר צופים בחומרים מנקודת מבט של deepfake, כדאי להסתמך גם על הרגשות שלך. לפעמים אנחנו מקבלים את הרושם שמשהו "לא בסדר". זה קורה, בין היתר, כאשר הרגשות של האדם המתואר על המסך אינם תואמים את מה שמראים לנו הבעת הפנים או גוון הקול. זה גם מרמז שייתכן שהסרטון זויף.

מעניין גם:

איך להגן על עצמך מפני זיוף עמוק?

כדי למנוע הונאה מזויפת עמוקה, מומחים ממליצים לבצע את השלבים הבאים:

  • צרו מילה או סיסמה סודית עם אנשים אהובים, כמו בני משפחה או עמיתים, שיוכיחו את מציאות המצב באמצעות סרטון או הקלטה. זה יאפשר לך לאמת במהירות את שקר המצב ולהימנע, למשל, מסחיטת כסף.
  • הסכם עם קרובי משפחה או עמיתים לרשימה של מידע שלעולם לא ישאלו עליו באמצעות הודעות, למשל ברשתות חברתיות או SMS. הכרחי שכל בעלי העניין יידעו על היקף הסכנה האמיתי.
  • הטמעת ערוצי אימות מרובי גורמים לאימות כל בקשה. במידה והתקשורת מתחילה בהודעת טקסט, הרי שהדרך הבטוחה ביותר לאשר את המידע היא ליצור קשר עם שולח ההודעה בצורה של שיחה דרך ערוץ תקשורת מוסכם ומאובטח.
  • שיפור מתמיד בכשירות האבטחה, למשל בצורת הדרכת צוות בנושאי אבטחה ופשעי סייבר. העלאת המודעות למה זה זיוף עמוק וכיצד להתמודד עם האיום הזה.
  • תמיכה ופיתוח מערכות אבטחה בסביבות טכנולוגיות מידע ותקשורת (ICT).

היכן ניתן להיתקל בזיוף עמוק?

ניתן למצוא חומר מזויף בכל מקום שהוא יכול להגיע לקהל גדול, כלומר לקהל ה-deepfake הפוטנציאלי. Facebook, Instagram, TikTok ואתרי מדיה חברתית אחרים מלאים בדברים מהסוג הזה.

אלה לא רק סרטונים מדהימים, אלא גם תמונות והקלטות אודיו "מעודנות". חלק מפרופילי הסלבריטאים האותנטיים התמלאו לפעמים לגמרי בדברים מזויפים עמוקים!

זה לא המקום היחיד שבו אתה יכול למצוא Deepfake. גם אפליקציה לסמארטפון מבוססת על טכנולוגיה זו, המאפשרת להוסיף לתמונה שפם וזקן או אפקטים מיוחדים אחרים (למשל, הזדקנות בכמה עשורים). אז אולי יתברר שהתמונה האחרונה שקיבלת מחבריך היא קצת "משרטטת".

מעניין גם:

סרטי Deepfake הם לא רק פורנוגרפיים

השימוש ב-deepfake יכול להיות חיובי ושלילי כאחד. סרטי Deepfake יכולים להיות שובבים או משעשעים. כאן עלינו להזכיר את הסרטון של המלכה אליזבת רוקדת על השולחן במהלך הודעת השנה החדשה. זו גם המטרה של רוב שינויי התמונות שאנו עושים עם אפליקציית deepfake בסמארטפונים שלנו. זה צריך להיות מצחיק ומהנה.

חומרים Deepfake יכולים גם למלא תפקיד חינוכי, למשל, "להחיות" אמנים, זמרים או מוזיקאים שכבר מתים. חלק מהמוזיאונים, בפרט, מוזיאון סלבדור דאלי בפלורידה, משתמשים בטכנולוגיה זו, שבה "מציגים" למבקרים את יצירותיהם על ידי האמן עצמו, איתו אפשר לדבר ואפילו לצלם.

טכנולוגיית Deepfake משמשת במחוללי קול - מכשירים המיועדים לאנשים שאיבדו את יכולת הדיבור. הודות להם, אנשים כאלה עדיין יכולים לדבר איתנו בקול שלהם. קולו של ואל קילמר, שאותו איבד בעקבות סרטן הגרון, עוצב ב-Top Gun: Maverick.

למרבה הצער, יש לנו גם דוגמאות רבות לשימושים שליליים של זיוף עמוק. פוליטיקה היא דוגמה שבה מידע כוזב מסוג זה יכול להיות בעל השלכות עולמיות מרחיקות לכת, כמו הכפשת אישיות ציבורית, השפעה על הבורסה, הכלכלה או תוצאות הבחירות, או אפילו ניהול לוחמה במלחמה. תיעוד מוכן היטב מקל על מניפולציה של דעת הקהל. ההתפתחות המתקדמת של הטכנולוגיות תקשה עוד יותר על ההבחנה בין חומרים אמיתיים לזיופים. אז זהו צעד לקראת נפילת האמון החברתי וכאוס המידע.

סרטוני Deepfake, כפי שכבר הזכרנו, נפוצים בתעשיית הפורנו. לרוב, השינויים מורכבים מהחלפת פניה של שחקנית/שחקן הפורנו בפניהם של סלבריטאים או כוכבי קולנוע, כמובן, ללא הסכמתם.

קרא גם: משימות חלל מאוישות: מדוע החזרה לכדור הארץ עדיין מהווה בעיה?

Deepfake הוא איום אמיתי על כולנו

Deepfake הוא לא רק בעיה עבור שחקנים ופוליטיקאים. כל אחד יכול להיות מושפע מתוכן מזויף. אלמנט של סחיטה וסחיטה יכול להיות סרטון מפוברק בו אנו מבצעים פשע או מגיעים למצב מעורפל – או שתשלם או שנגלה. אם אתה עובד בעסק, עליך להבין שקיימת סכנה בשימוש בזיוף עמוק כדי להכפיש את החברה בקרב צדדיה.

Deepfake

הגידול בכמות החומר המניפולטיבי יכול להשפיע גם על האמון החברתי והאמון במידע המסופק. איך אתה יכול להאמין למשהו כשסרט שהוא ראיה בבית משפט יכול להיות שקרי והחדשות מדווחות על אירועים לא קיימים?

Deepfake

טכנולוגיה המאפשרת לך ליצור תמונה זדונית, הקלטת אודיו או סרט שדמויותיהם דומות מאוד לאנשים אחרים היא רמה חדשה של איום מצד פושעי סייבר. במיוחד לאור העובדה שברשתות החברתיות הם יכולים למשוך משאבים כמעט בלתי מוגבלים של חומר מקור ליצירת זיופים עמוקים.

תוכנת למידת מכונה יכולה לחפש את Facebook אה בו Instagram, למשל, ולתפוס תמונות או סרטונים מעניינים של "שחקנים" פוטנציאליים. על בסיס זה ניתן ליצור קול, תמונה ווידאו ברורים מאוד של האדם, אך עם פנייה מזויפת שנוצרה במיוחד המדמה, למשל, להיות בבעיה רצינית - כקורבן של חטיפה או תאונה. בשלב הבא נוצרת בקשה מזויפת לעזרה, למשל כספית, המופנית לקרובים של "הקורבן".

קרא גם: טלסקופ החלל ג'יימס ווב: 10 מטרות לצפייה

המאבק נגד זיוף עמוק

זרימת המידע הכוזב כה גדולה עד שרשתות חברתיות רבות החליטו להילחם נגד זיופים עמוקים. Facebook і Twitter נסה לזהות סרטונים מזויפים ולמחוק אותם אוטומטית. תאגידים גדולים (כולל Microsoft או אמזון) משקיעים בתוכנה שתזהה תוכן מזויף. מדענים עובדים גם על פתרון לבעיה זו.

עם זאת, במצב שבו אפליקציית סמארטפון מספיקה כדי ליצור סרט מזויף, להילחם בזיוף עמוק זה כמו להילחם נגד טחנות רוח. אין גם נורמות משפטיות שיקבעו את ההשלכות של מניפולציה של מידע או שימוש בתמונה של מישהו אחר בדרך זו.

Deepfake

Deepfake הופך יותר ויותר פופולרי, וקשה יותר ויותר להבחין בינו לבין האמת. זאת בשל שיפור הטכנולוגיות שיכולות לחקות טוב יותר תנועות ומחוות אנושיות. ניתן להשתמש בזיופים עמוקים למטרות טובות, כמו יצירת חומרים חינוכיים או עזרה לאנשים שאיבדו את קולם לאחר ניתוח גרון, אבל הם גם כלי להאקרים, סחטנים וטרולים באינטרנט.

לכן, אם נתקלתם שוב בסרטון מדהים באינטרנט, תחילה בדקו אם הוא לפעמים שונה או מזויף. אולי מה שאתה מסתכל עליו מעולם לא היה במציאות!

קרא גם:

עם זאת, אל תשכח שקיימת מלחמה באוקראינה. אם אתה רוצה לעזור לאוקראינה להילחם בכובשים הרוסים, הדרך הטובה ביותר לעשות זאת היא לתרום לכוחות המזוינים של אוקראינה באמצעות הצלת חיים או דרך העמוד הרשמי NBU.

Yuri Svitlyk
Yuri Svitlyk
בן הרי הקרפטים, גאון בלתי מוכר במתמטיקה, "עורך דין"Microsoft, אלטרואיסט מעשי, שמאל-ימין
עוד מהמחבר
- פרסום -
הירשם
תודיע על
אורח

0 תגובות
ביקורות משובצות
הצג את כל ההערות
מאמרים אחרים
הירשם לקבלת עדכונים

תגובות אחרונות

פופולרי עכשיו
0
אנחנו אוהבים את המחשבות שלך, אנא הגיבו.x