Hôm nay chúng ta sẽ nói về deepfake, hiện đã trở nên phổ biến và đã trở thành một hiện tượng khá phổ biến. Nhờ công nghệ này, việc thao tác thông tin đã lên một tầm cao mới.
Bạn có thấy Nữ hoàng Elizabeth nhảy múa trên bàn trong buổi phát thông điệp năm mới không? Hoặc nghe bài phát biểu của Kim Jong-un về dân chủ, hoặc ngưỡng mộ Salvador Dali, người đã nói về cái chết của ông ấy (tại sao ông ấy không tin vào điều đó)?
Tất cả những video tuyệt vời này đều có một điểm chung - chúng đều là giả. Deepfake là một kỹ thuật tạo và xuất bản thông tin sai lệch dưới dạng video, âm thanh và hình ảnh. Ngày càng dễ dàng tìm thấy những tài liệu như vậy, vì vậy chúng tôi đã chuẩn bị cho bạn một hướng dẫn về cách tạo, nhận dạng và tìm kiếm video deepfake trên Internet.
Đọc thêm: Blockchains của ngày mai: Tương lai của ngành công nghiệp tiền điện tử nói một cách đơn giản
Deepfake - nó là gì?
Deepfake (Deepfake) thực chất là một tài liệu ảnh, video hoặc âm thanh không phải là thật, giả, tức là giả. Deepfake (kết hợp của hai từ - học sâu "học sâu" và "học giả") sử dụng trí thông minh nhân tạo (AI) để học sâu nhằm tạo ra sự giống nhau của người này với người khác trong video và các tài liệu phương tiện kỹ thuật số khác. Nó được tạo ra bởi các thuật toán dựa trên các mẫu giọng nói, âm thanh, video hoặc ảnh thực được ghép lại với nhau. Thuật toán lấy thông tin đã chọn từ nhiều nơi khác nhau và sau đó kết hợp nó thành một vật liệu. Kết quả là, một cái gì đó mới (sai) được tạo ra, dựa trên sự kết hợp của các dữ liệu thực khác nhau.
Nhưng đó không phải là tất cả. Deepfake cũng có thể "vẽ" một bức ảnh từ đầu, chẳng hạn bằng cách tạo khuôn mặt của những nhân vật chưa từng tồn tại.
Mục đích của những hành động đó là gì? Trong số những thứ khác, Deepfake được sử dụng để truyền bá thông tin không chính xác trên Internet (ví dụ: về các nhân vật hoặc sự kiện chính trị), trộm cắp (ví dụ: giả mạo khẩu lệnh) và tạo nội dung khiêu dâm (phim có người nổi tiếng - deepfake khiêu dâm). Nó cũng có thể được sử dụng cho mục đích giáo dục và giải trí.
Đọc thêm: Giới thiệu về máy tính lượng tử nói một cách đơn giản
Deepfake - Nó hoạt động như thế nào?
Nói chung, có hai cách để tạo ra vật liệu deepfake. Phương pháp đầu tiên sử dụng hai thuật toán. Đầu tiên (bộ mã hóa) đầu tiên tìm kiếm các đặc điểm chung của hai hình ảnh (những hình ảnh được kết hợp thành một), sau đó (bộ giải mã) thứ hai có thể chuyển chúng sang hình ảnh mới được tạo. Ví dụ: nếu chúng ta muốn tạo một video trong đó một diễn viên sẽ di chuyển giống chúng ta, bộ mã hóa sẽ lấy chuyển động từ video mà chúng ta đang nhảy và bộ giải mã sẽ thay thế khuôn mặt của chúng ta bằng khuôn mặt của diễn viên và khiến anh ta tái tạo các chuyển động của chúng ta . Chìa khóa ở đây là các hành động đã chọn được sao chép sang hình ảnh mới (ví dụ: chuyển động, cử chỉ, nét mặt).
Cách thứ hai là thông qua mạng đối thủ chung (GAN), nơi hai thuật toán hoạt động cùng nhau. Đầu tiên được gọi là bộ tạo bởi vì, sử dụng thông tin chung, nó tạo ra hình ảnh (ví dụ, hình ảnh của một người) kết hợp các đặc điểm phân biệt của nó (một người có cơ thể, khuôn mặt, đôi mắt). Thuật toán thứ hai là một bộ phân biệt để đánh giá xem các hình ảnh được cung cấp cho nó có phải là sự thật hay không.
Theo thời gian, cả hai thuật toán trở nên tiên tiến hơn, vì vậy chúng học hỏi và cải thiện bản thân. Nếu máy phát được đào tạo theo cách mà người phân biệt không nhận ra ảnh giả (coi đó là ảnh thật), thì quá trình này đã hoàn tất.
Một lượng lớn phần mềm giả mạo có thể được tìm thấy trên GitHub, một cộng đồng mã nguồn mở dành cho các tập lệnh, chương trình và mã. Một số chương trình này được sử dụng hoàn toàn cho mục đích giải trí, vì vậy việc tạo deepfake không bị cấm, tuy nhiên, nhiều chương trình trong số đó cũng có thể được sử dụng cho mục đích tội phạm.
Nhiều chuyên gia cho rằng trong tương lai, với sự phát triển của công nghệ, các vụ lừa đảo sẽ trở nên phức tạp hơn nhiều và có thể tạo ra nhiều mối đe dọa nghiêm trọng hơn đối với xã hội, liên quan đến can thiệp bầu cử, tạo ra căng thẳng chính trị và các hoạt động tội phạm.
Đọc thêm:
- Quan sát Hành tinh Đỏ: Lịch sử Ảo ảnh về Sao Hỏa
- Dịch chuyển từ quan điểm khoa học và tương lai của nó
Mối đe dọa của Deepfake - nó đã tồn tại từ bao giờ?
Lần đầu tiên thông tin giả mạo như vậy xuất hiện vào năm 2017. Sau đó, người dùng là một bí danh sâu sắc đã xuất bản trên Reddit một số bộ phim khiêu dâm có sự tham gia của những người nổi tiếng, bao gồm Scarlett Johansson, Gal Gadot và Taylor Swift. Kể từ đó, ngành công nghiệp này đã phát triển nhanh chóng, vì hầu như ai cũng có thể quay phim deepfake.
https://youtu.be/IvY-Abd2FfM
Trong những năm gần đây, công nghệ quay lén phát triển đến mức ngày càng khó xác định đó là video bịa đặt hay là quay chân thực của người thật. Một ví dụ có thể là một đoạn video với thông điệp của Elizabeth II hoặc bài phát biểu của Barack Obama, được đăng tải nhanh chóng trên nhiều trang web khác nhau. Đoạn video với tuyên bố của cựu tổng thống Mỹ đề cập đến các mối đe dọa toàn cầu có thể gây ra bởi thông tin sai lệch và tin tức giả được công bố trên Internet. Trong tài liệu do kênh BuzzFeedVideos đăng tải, đạo diễn kiêm diễn viên người Mỹ Jordan Peele đã trở thành người lồng tiếng cho vị tổng thống thứ 44 của Hoa Kỳ. Tuy nhiên, hiện tại trí tuệ nhân tạo đã có khả năng tạo ra giọng nói dựa trên các bản ghi âm lưu trữ của một người được cho là xuất hiện trong phim giả.
Những công nghệ tiên tiến như vậy có thể trở thành một công cụ nguy hiểm trong tay của tội phạm mạng và những kẻ lừa đảo trên Internet trong tương lai. Việc công bố các video giả về bài phát biểu của các chính trị gia quan trọng có thể gây ra thiệt hại thực sự ở cấp độ quốc tế. Những bộ phim như vậy, dựa trên công nghệ deepfake, có thể gây ra xung đột và bê bối ngoại giao, và do đó ảnh hưởng đến dư luận và hành vi của người dân.
Một mối đe dọa tiềm ẩn khác là nội dung người lớn, vốn luôn tạo ra nhiều lưu lượng truy cập nhất trong không gian ảo. Không có gì lạ khi công nghệ deepfake tấn công Internet nhanh chóng như vậy. Theo một báo cáo của công ty an ninh mạng Deeptrace của Hà Lan, 96% video bịa đặt được tạo bằng công nghệ deepfake có nội dung về các chủ đề như vậy. Thông thường, hình ảnh của các ngôi sao điện ảnh, vận động viên, và thậm chí cả các chính trị gia và đại diện của chính phủ được sử dụng để sản xuất các tài liệu đó.
Đọc thêm: Tại sao một nhiệm vụ không gian không thể bay bất cứ lúc nào: Cửa sổ phóng là gì?
Làm thế nào để làm một deepfake?
Nếu ai đó có thể làm video deepfake, họ cũng có thể làm ở nhà? Chắc chắn là có, nhưng chất lượng của chúng, tất nhiên, sẽ không hoàn hảo. Tạo ra những video như vậy đòi hỏi tài nguyên máy tính lớn và thẻ video mạnh mẽ. Những thứ mà chúng ta thường có trong máy tính gia đình là không đủ, và bản thân quá trình phát triển có thể kéo dài hàng tuần. Chất lượng của phim cũng sẽ còn nhiều điều mong muốn - sẽ có những lỗi nhìn thấy được, cử động miệng có thể không tương ứng với âm thanh, có những chỗ có thể nhìn thấy được nội dung "cũ" chồng lên "mới".
Tuy nhiên, nếu chúng ta muốn "chỉnh sửa" một chút ảnh hoặc tạo một đoạn video deepfake ngắn, chương trình này có thể được tải trực tiếp xuống điện thoại thông minh. Chương trình rất dễ sử dụng trong vài phút sẽ loại bỏ những khiếm khuyết về ngoại hình, biến bạn thành người nổi tiếng được chọn hoặc cho phép chú chó của bạn nói chuyện bằng giọng người.
Đọc thêm:
- Quan sát Hành tinh Đỏ: Lịch sử Ảo ảnh về Sao Hỏa
- Dịch chuyển từ quan điểm khoa học và tương lai của nó
Làm thế nào để nhận ra một deepfake?
Các video deepfake chuyên nghiệp ngày càng khó phát hiện hơn. Lúc đầu, các thuật toán gặp vấn đề với hành vi cơ bản (chẳng hạn như chớp mắt), và ngay lập tức có thể thấy rõ rằng bộ phim là giả. Lỗi này hiện đã được sửa. Các nhân vật giả chớp mắt, di chuyển tự nhiên và nói năng lưu loát. Tuy nhiên, đôi khi họ vẫn gặp vấn đề với chuyển động tự nhiên của mắt.
Vì vậy, làm thế nào để phát hiện một deepfake? Đây là những gì bạn cần chú ý khi xem video:
- Âm thanh có theo kịp chuyển động của miệng không? Đôi khi chúng không hoàn toàn khớp và người trong video di chuyển môi của họ với độ trễ so với âm thanh hoặc phát âm các từ không chính xác.
- Tất cả các loại hiện tượng dường như không tự nhiên. Chúng ta đang nói ở đây, trong số những thứ khác, vị trí của toàn bộ cơ thể hoặc đầu liên quan đến thân, phản xạ ánh sáng không chính xác trên các vật thể, phản xạ ánh sáng không chính xác trong đồ trang sức, v.v. Màu da không tự nhiên cũng có thể là dấu hiệu cho thấy phim giả.
- Chất lượng âm thanh và video. Sự khác biệt giữa chúng sẽ giúp phát hiện ra lỗi sâu. Thường thì nhạc phim có chất lượng kém hơn.
- Hình ảnh bất thường. Thông thường, chúng xuất hiện ở phần tiếp giáp của cơ thể và đầu. Khi đầu của người nổi tiếng bị "dán" vào cơ thể khác, vùng cổ có thể xuất hiện vết mờ. Đôi khi có hiện tượng bỏ qua khung hình (hiệu ứng ngắt quãng) và lỗi khung hình (góc, loại hoặc hướng ánh sáng khác nhau).
- Thay đổi thẻ bắt đầu bằng # trong video cũng có thể có nghĩa là chúng tôi có một video sâu.
Khi xem tài liệu theo quan điểm của deepfake, cũng nên dựa vào cảm nhận của chính mình. Đôi khi chúng ta có ấn tượng rằng có gì đó "không ổn". Điều này xảy ra, trong số những điều khác, khi cảm xúc của người được mô tả trên màn hình không khớp với những gì biểu hiện trên khuôn mặt hoặc giọng nói cho chúng ta thấy. Điều này cũng cho thấy rằng video có thể đã bị làm giả.
Cũng thú vị:
- 10 điều kỳ lạ nhất mà chúng ta biết được về lỗ đen vào năm 2021
- Terraforming Mars: Liệu Hành tinh Đỏ có thể biến thành một Trái đất mới?
Làm thế nào để bảo vệ bạn khỏi deepfake?
Để tránh lừa đảo giả mạo sâu sắc, các chuyên gia khuyên bạn nên làm theo các bước sau:
- Tạo một từ hoặc khẩu hiệu bí mật với những người thân yêu, chẳng hạn như thành viên gia đình hoặc đồng nghiệp, những người sẽ chứng minh thực tế của tình huống bằng video hoặc ghi âm. Điều này sẽ cho phép bạn nhanh chóng xác minh tính giả mạo của tình huống và tránh bị tống tiền, chẳng hạn.
- Thống nhất với người thân hoặc đồng nghiệp danh sách thông tin sẽ không bao giờ được hỏi qua tin nhắn, ví dụ như trên mạng xã hội hoặc SMS. Tất cả các bên liên quan bắt buộc phải được thông báo về mức độ nguy hiểm thực sự.
- Thực hiện các kênh xác thực đa yếu tố để xác minh từng yêu cầu. Nếu cuộc liên lạc bắt đầu bằng tin nhắn văn bản, thì cách an toàn nhất để xác nhận thông tin là liên hệ với người gửi tin nhắn dưới hình thức trò chuyện thông qua một kênh liên lạc đã được thỏa thuận trước và an toàn.
- Liên tục nâng cao năng lực bảo mật, ví dụ như dưới hình thức đào tạo nhân viên về an ninh và tội phạm mạng. Nâng cao nhận thức về deepfake là gì và cách chống lại mối đe dọa này.
- Hỗ trợ và phát triển hệ thống bảo mật trong môi trường công nghệ thông tin và truyền thông (ICT).
Bạn có thể gặp deepfake ở đâu?
Tài liệu giả mạo có thể được tìm thấy ở bất cứ nơi nào nó có thể tiếp cận được lượng lớn khán giả, tức là đối tượng deepfake tiềm năng. Facebook, Instagram, TikTok và các trang mạng xã hội khác có đầy những nội dung này.
Đây không chỉ là những video tuyệt vời mà còn là những bức ảnh và bản ghi âm được "tinh chỉnh". Một số hồ sơ người nổi tiếng đích thực đôi khi hoàn toàn chứa đầy những thứ sâu sắc!
Đây không phải là nơi duy nhất bạn có thể tìm thấy sâu. Một ứng dụng cho điện thoại thông minh cũng dựa trên công nghệ này, cho phép bạn thêm ria mép và râu hoặc các hiệu ứng đặc biệt khác vào ảnh (ví dụ: lão hóa vài thập kỷ). Vì vậy, nó có thể hóa ra rằng bức ảnh cuối cùng bạn nhận được từ bạn bè của bạn là một chút "chui".
Cũng thú vị:
Phim Deepfake không chỉ mang tính chất khiêu dâm
Việc sử dụng deepfake có thể vừa tích cực vừa tiêu cực. Phim Deepfake có thể vui tươi hoặc giải trí. Ở đây chúng ta nên đề cập đến video Nữ hoàng Elizabeth nhảy múa trên bàn trong thông điệp năm mới. Đây cũng là mục đích của hầu hết các chỉnh sửa ảnh mà chúng tôi thực hiện với ứng dụng deepfake trên điện thoại thông minh của mình. Nó phải là hài hước và vui vẻ.
Các tài liệu Deepfake cũng có thể đóng vai trò giáo dục, chẳng hạn như "hồi sinh" các nghệ sĩ, ca sĩ hoặc nhạc sĩ đã chết. Một số bảo tàng, đặc biệt là Bảo tàng Salvador Dali ở Florida, sử dụng công nghệ này, nơi du khách được “trình bày” các tác phẩm của họ bởi chính nghệ sĩ, người mà bạn có thể trò chuyện và thậm chí chụp ảnh.
Công nghệ Deepfake được sử dụng trong máy tạo giọng nói - thiết bị được thiết kế cho những người mất khả năng nói. Nhờ họ, những người như vậy vẫn có thể nói chuyện với chúng ta bằng chính giọng nói của họ. Giọng của Val Kilmer, thứ mà anh đã mất vì ung thư thanh quản, đã được mô phỏng trong Top Gun: Maverick.
Thật không may, chúng tôi cũng có nhiều ví dụ về việc sử dụng deepfaking tiêu cực. Chính trị là một ví dụ trong đó loại thông tin sai lệch này có thể gây ra những hậu quả toàn cầu, sâu rộng, chẳng hạn như làm mất uy tín của các nhân vật của công chúng, ảnh hưởng đến thị trường chứng khoán, nền kinh tế hoặc kết quả bầu cử, hoặc thậm chí là tiến hành chiến tranh trong một cuộc chiến. Hồ sơ được chuẩn bị kỹ càng dễ khiến dư luận thao túng. Sự phát triển ngày càng cao của công nghệ sẽ khiến việc phân biệt vật liệu thật và giả càng trở nên khó khăn hơn. Vì vậy, đây là một bước tiến tới sự sụp đổ của lòng tin xã hội và sự hỗn loạn về thông tin.
Các video Deepfake, như chúng tôi đã đề cập, phổ biến rộng rãi trong ngành công nghiệp khiêu dâm. Thông thường, những thay đổi bao gồm việc thay thế khuôn mặt của nữ diễn viên / diễn viên khiêu dâm bằng khuôn mặt của những người nổi tiếng hoặc ngôi sao điện ảnh, tất nhiên, mà không có sự đồng ý của họ.
Đọc thêm: Các nhiệm vụ không gian có người lái: Tại sao việc quay trở lại Trái đất vẫn là một vấn đề?
Deepfake là một mối đe dọa thực sự đối với tất cả chúng ta
Deepfake không chỉ là vấn đề của các diễn viên và chính trị gia. Bất kỳ ai cũng có thể bị ảnh hưởng bởi nội dung giả mạo. Yếu tố tống tiền và tống tiền có thể là video bịa đặt trong đó chúng tôi phạm tội hoặc rơi vào tình huống không rõ ràng - bạn trả tiền hoặc chúng tôi tiết lộ. Nếu bạn làm việc trong lĩnh vực kinh doanh, bạn phải hiểu rằng có nguy cơ sử dụng deepfake để làm mất uy tín của công ty giữa các đối tác.
Sự gia tăng số lượng tài liệu thao túng cũng có thể ảnh hưởng đến lòng tin của xã hội và niềm tin vào thông tin được cung cấp. Làm thế nào bạn có thể tin được bất cứ điều gì khi một bộ phim là bằng chứng trước tòa án có thể là sai sự thật và các bản tin đưa tin về các sự kiện không tồn tại?
Công nghệ cho phép bạn tạo hình ảnh, bản ghi âm hoặc phim độc hại có các nhân vật gần giống với người khác là một cấp độ đe dọa mới từ tội phạm mạng. Đặc biệt là với thực tế là trong các mạng xã hội, họ có thể thu hút gần như không giới hạn nguồn tài liệu nguồn để tạo ra deepfakes.
Phần mềm máy học có thể tìm kiếm Facebook abo Instagram, chẳng hạn và bắt gặp những bức ảnh hoặc video thú vị về các "diễn viên" tiềm năng. Trên cơ sở này, có thể tạo ra giọng nói, hình ảnh và video rất rõ ràng về một người, nhưng với lời kêu gọi giả được tạo đặc biệt mô phỏng, chẳng hạn như đang gặp rắc rối nghiêm trọng - với tư cách là nạn nhân của một vụ bắt cóc hoặc tai nạn. Ở giai đoạn tiếp theo, một yêu cầu trợ giúp giả mạo, chẳng hạn như về tài chính, được gửi tới người thân của "nạn nhân", được tạo ra.
Đọc thêm: Kính viễn vọng không gian James Webb: 10 mục tiêu cần quan sát
Cuộc chiến chống lại deepfake
Luồng thông tin sai lệch lớn đến mức nhiều mạng xã hội đã quyết định chống lại deepfakes. Facebook і Twitter cố gắng phát hiện video giả mạo và tự động xóa chúng. Các tập đoàn lớn (trong đó có Microsoft hoặc Amazon) đang đầu tư vào phần mềm có thể phát hiện nội dung giả mạo. Các nhà khoa học cũng đang nghiên cứu giải pháp cho vấn đề này.
Tuy nhiên, trong tình huống mà một ứng dụng trên điện thoại thông minh đủ để tạo ra một bộ phim giả, chiến đấu với sâu giống như chiến đấu với cối xay gió. Cũng không có quy phạm pháp luật nào xác định hậu quả của việc thao túng thông tin hoặc sử dụng hình ảnh của người khác theo cách này.
Deepfake ngày càng trở nên phổ biến, và việc phân biệt thật giả ngày càng khó. Điều này là do sự cải tiến của các công nghệ có thể bắt chước các chuyển động và cử chỉ của con người tốt hơn. Deepfakes có thể được sử dụng cho các mục đích tốt, chẳng hạn như tạo tài liệu giáo dục hoặc giúp đỡ những người bị mất giọng sau khi phẫu thuật thanh quản, nhưng chúng cũng là một công cụ cho tin tặc, kẻ tống tiền và những kẻ lừa đảo trên internet.
Vì vậy, nếu bạn bắt gặp lại một video tuyệt vời trên Internet, trước tiên hãy kiểm tra xem nó có bị sửa đổi hoặc giả mạo hay không. Có thể những gì bạn đang nhìn không bao giờ có trong thực tế!
Đọc thêm:
- 100 năm Vật lý lượng tử: Từ các lý thuyết của những năm 1920 đến Máy tính
- 5 sứ mệnh không gian trong tương lai để suy nghĩ về
Tuy nhiên, đừng quên rằng có một cuộc chiến đang diễn ra ở Ukraine. Nếu bạn muốn giúp Ukraine chống lại quân chiếm đóng của Nga, cách tốt nhất để làm điều đó là quyên góp cho Lực lượng vũ trang Ukraine thông qua Cuộc sống tiết kiệm hoặc thông qua trang chính thức NBU.