Deepfake là gì? Công nghệ deepfake có ảnh hưởng thế nào đến xã hội

Deepfake là gì?

Deepfake (tiếng Việt nghĩa là siêu giả) vốn được xuất phát từ thuật ngữ "deep learning". Deepfake là một hình ảnh hoặc video giả mạo kỹ thuật số của một người khiến họ trông giống như một người khác. Đây là cấp độ tiếp theo của việc tạo nội dung giả mạo tận dụng trí tuệ nhân tạo (AI). 

Cá nhân bị mạo danh có thể là một nhân vật nổi tiếng, chẳng hạn như người nổi tiếng, chính trị gia hoặc chủ doanh nghiệp là mục tiêu của chiến dịch cung cấp thông tin sai lệch. Tuy nhiên, deepfakes cũng có thể được sử dụng để lan truyền thông tin sai lệch về bất kỳ ai.

Cùng với sự bùng nổ, gia tăng mạnh mẽ của công nghệ điện toán đám mây và những giải pháp mới được phát hiện sử dụng để thực hiện việc xử lý và phân tích lượng thông tin dữ liệu khổng lồ đang tồn tại trong thế giới thực, máy tính có thể làm được những điều mà con người chúng ta thậm chí không thể tưởng tượng ra và đó nền tảng tạo nên deepfake.

Deepfakes đã bắt đầu như thế nào và ai đã tạo ra chúng?

Mọi người bắt đầu biết đến công nghệ deepfake khi một người dùng Reddit tên là “Deepfakes” đăng tải rằng anh ta đã phát triển một thuật toán máy học (ML) có thể chuyển đổi khuôn mặt của người nổi tiếng một cách liền mạch trên các video khiêu dâm. Tất nhiên, người dùng này đã cung cấp các mẫu video anh ta chỉnh sửa và chủ đề này nhanh chóng trở nên rất phổ biến, tạo ra subreddit của riêng nó. Các quản trị viên trang web đã phải đóng cửa nó nhưng vào thời điểm này, công nghệ này đã trở nên nổi tiếng và có sẵn. Chẳng mấy chốc, mọi người đã sử dụng nó để tạo các video giả, hầu hết có sự tham gia của các chính trị gia và diễn viên.

Tuy nhiên, ý tưởng thao túng chỉnh sửa video không phải là mới. Trở lại những năm 1990, một số trường đại học đã tiến hành nghiên cứu học thuật quan trọng về thị giác máy tính. Phần lớn nỗ lực trong thời gian này tập trung vào việc sử dụng trí tuệ nhân tạo (AI) và ML để sửa đổi cảnh quay video hiện có của một người đang nói và kết hợp cảnh quay đó với một bản âm thanh khác. Chương trình viết lại video năm 1997 đã giới thiệu công nghệ này.

Cách thức hoạt động của Deepfakes

Nội dung video deepfake được tạo bằng cách sử dụng hai thuật toán AI cạnh tranh - một thuật toán được gọi là trình tạo và thuật toán kia được gọi là trình phân biệt đối xử. Trình tạo, tạo nội dung đa phương tiện giả mạo, yêu cầu trình phân biệt xác định xem nội dung đó là thật hay giả.

Cùng với nhau, trình tạo và trình phân biệt tạo thành một thứ gọi là mạng đối nghịch chung (GAN). Mỗi khi người phân biệt xác định chính xác nội dung là bịa đặt, nó sẽ cung cấp cho người tạo thông tin có giá trị về cách cải thiện deepfake tiếp theo.

Bước đầu tiên trong việc thiết lập GAN là xác định đầu ra mong muốn và tạo tập dữ liệu huấn luyện cho trình tạo. Sau khi trình tạo bắt đầu tạo mức đầu ra có thể chấp nhận được, các video clip có thể được cung cấp cho bộ phân biệt.

Khi trình tạo trở nên tốt hơn trong việc tạo các video giả mạo, thì trình phân biệt đối xử sẽ phát hiện ra chúng tốt hơn. Ngược lại, khi bộ phân biệt đối xử phát hiện ra video giả mạo tốt hơn, thì trình tạo sẽ tạo ra chúng tốt hơn.

Cho đến gần đây, nội dung video khó thay đổi hơn theo bất kỳ cách đáng kể nào. Tuy nhiên, vì deepfakes được tạo thông qua AI nên chúng không yêu cầu kỹ năng đáng kể cần có để tạo ra một video chân thực. Thật không may, điều này có nghĩa là bất kỳ ai cũng có thể tạo deepfake để phục vụ nhu cầu của họ. Ví dụ: một deepfake có thể được sử dụng để truyền bá thông tin sai lệch về một diễn viên, ca sĩ. Tuy nhiên, Microsoft đã làm việc trên một phần mềm phát hiện deepfake do AI cung cấp cho mục đích này. Công cụ này có thể tự động phân tích video và ảnh để cung cấp điểm tin cậy rằng phương tiện đã bị thao túng. Một mối nguy hiểm khác mà deepfakes có thể gây ra là mọi người sẽ xem những video như vậy, đánh giá sai lệch về một nhân vật và sau khi nhận ra đó là giả mạo, mọi người sẽ ngừng tin tưởng vào tính hợp lệ của bất kỳ nội dung video nào.

Deepfake được sử dụng để làm gì?

Các video deepfake thường được sử dụng cho các mục đích vô hại như trong meme, bộ lọc mạng xã hội hoặc ứng dụng hoán đổi khuôn mặt. Nhưng deepfakes cũng có thể được sử dụng một cách ác ý để truyền bá thông tin sai lệch, tạo tin tức giả mạo hoặc tung ra các video trả thù. Việc thay đổi diện mạo của ai đó để khiến họ trông giống người khác thường được thực hiện một cách vui vẻ - tuy nhiên nhưng nó cũng có thể được sử dụng để bắt nạt trên mạng hoặc dẫn đến hành vi trộm cắp danh tính.

Vào năm 2017, một người dùng Reddit ban đầu đã sử dụng công nghệ này để tạo video kỹ thuật số nội dung khiêu dâm không có sự đồng thuận bằng cách sử dụng khuôn mặt của những người nổi tiếng nữ. Mặc dù subreddit đã bị cấm vào năm 2018, nhưng loại deepfake Reddit này và các hình thức deepfake khác của người nổi tiếng đã lan rộng trên internet.

Và đó mới chỉ là khởi đầu khi nói đến các ví dụ deepfake khét tiếng. Công nghệ deepfake có thể được sử dụng cho nhiều kiểu lừa đảo, từ thao túng chính trị và tin tức giả mạo, cho đến dựng video khiêu dâm để trả thù và tống tiền. Bất kỳ ai có quyền truy cập vào công nghệ deepfake đều có thể khiến bất kỳ ai khác trông giống như họ đang nói hoặc làm bất cứ điều gì.

Nguy cơ tạo và vũ khí hóa các video deepfake đã hiển hiện. Và ngày càng có nhiều lo ngại rằng deepfakes sẽ ngày càng được sử dụng một cách độc hại trong tương lai, đặt ra câu hỏi về tính bảo mật của dữ liệu sinh trắc học, bao gồm cả việc sử dụng các công cụ nhận dạng khuôn mặt.

Những mối nguy hiểm của công nghệ Deepfake là gì?

Hiện tại, tính mới lạ, độc đáo của các video deepfake khiến chúng trở nên hấp dẫn và thú vị khi xem. Nhưng ẩn dưới bề mặt của công nghệ có vẻ thú vị này là một mối nguy hiểm có thể vượt khỏi tầm kiểm soát.

Công nghệ Deepfake đang phát triển đến mức rất khó để phân biệt video giả với video thật. Điều này có thể gây ra những hậu quả tai hại, đặc biệt là đối với các nhân vật của công chúng và những người nổi tiếng. Sự nghiệp và cuộc sống của họ có thể bị tổn hại và thậm chí bị hủy hoại hoàn toàn bởi những trò giả mạo độc hại. Những người có ý định xấu xa có thể sử dụng những thứ này để mạo danh mọi người và lợi dụng bạn bè, gia đình và đồng nghiệp của họ. Họ thậm chí có thể sử dụng video giả của các nhà lãnh đạo thế giới để bắt đầu tạo nên những vụ tai tiếng quốc tế và thậm chí là chiến tranh.

Cách phát hiện deepfake

Khi deepfake trở nên phổ biến hơn, xã hội nói chung rất có thể sẽ cần phải thích nghi với việc phát hiện các video deepfake giống như cách người dùng trực tuyến hiện đang làm quen với việc phát hiện các loại tin tức giả mạo khác.

Thông thường, giống như trường hợp của an ninh mạng, nhiều công nghệ cần phải xuất hiện để phát hiện và ngăn chặn deepfake lan rộng, điều này có thể kích hoạt một vòng luẩn quẩn và có khả năng gây ra nhiều tác hại đối với xã hơn.

Có một số dấu hiệu cho thấy deepfakes:

• Các deepfake hiện tại gặp sự cố khi tạo hoạt ảnh chân thực cho các khuôn mặt và kết quả là video trong đó đối tượng không bao giờ chớp mắt hoặc chớp mắt quá thường xuyên hoặc không tự nhiên. Tuy nhiên, sau khi các nhà nghiên cứu tại Đại học Albany công bố một nghiên cứu phát hiện sự bất thường trong nháy mắt, các deepfake mới đã được phát hành không còn vấn đề này nữa.
• Tìm kiếm các vấn đề về da hoặc tóc hoặc khuôn mặt có vẻ mờ hơn so với môi trường mà chúng được đặt. Tiêu điểm có thể trông mềm mại một cách bất thường.
• Ánh sáng có trông không tự nhiên không? Thông thường, các thuật toán deepfake sẽ giữ lại ánh sáng của các clip được sử dụng làm mẫu cho video giả, ánh sáng này không phù hợp với ánh sáng trong video mục tiêu.
• Âm thanh có thể không khớp với người đó, đặc biệt nếu video bị làm giả nhưng âm thanh gốc không được chỉnh sửa cẩn thận.

Chống lại deepfake bằng công nghệ

Mặc dù deepfake sẽ chỉ trở nên ngày càng chân thực hơn theo thời gian khi các kỹ thuật được cải tiến, nhưng chúng ta không phải không có khả năng tự vệ khi chiến đấu với chúng. Một số công ty đang phát triển các phương pháp phát hiện deepfake, một số trong số đó là các công ty mới thành lập.

Chẳng hạn, Công ty Sensity đã phát triển một nền tảng phát hiện giống như một phần mềm chống vi-rút dành cho deepfake để cảnh báo người dùng qua email khi họ đang xem nội dung nào đó có dấu vân tay của phương tiện tổng hợp do AI tạo ra. Sensity sử dụng cùng một quy trình học sâu được sử dụng để tạo video giả.

Operation Minerva có một cách tiếp cận đơn giản hơn để phát hiện deepfake. Thuật toán của công ty này so sánh các video sâu tiềm năng với video đã biết đã được "dấu vân tay kỹ thuật số". Ví dụ: nó có thể phát hiện các video có chứa nội dung khiêu dâm giả bằng cách nhận ra rằng video deepfake này chỉ là phiên bản sửa đổi của video thực tế mà Chiến dịch Minerva đã lập danh mục.

Và năm ngoái, Facebook đã tổ chức Thử thách phát hiện Deepfake, một sáng kiến hợp tác, cởi mở nhằm khuyến khích tạo ra các công nghệ mới để phát hiện deepfake và các loại phương tiện bị thao túng khác. Cuộc thi có các giải thưởng lên tới 500.000 đô la.

Trên đây là nội dung Deepfake là gì cũng như những mối nguy hại mà công nghệ này có thể tạo ra, ảnh hưởng đến xã hội. Việc của các công ty công nghệ cũng như các cơ quan chức năng là tìm ra biện pháp để ngăn ngừa các video giả này, tránh để chúng tạo ra những mối nguy hại to lớn.