Deep fake là gì

     

Deepfake là công nghệ sử dụng trí tuệ tự tạo (AI) để đưa hình ảnh, các giọng nói của một người ghép vào đoạn clip của fan khác.

Bạn đang xem: Deep fake là gì

*
Ứng dụng ZAO hoán đổi gương mặt bạn cùng với diễn viên trong những đoạn phim nổi tiếng

Với đà phát triển của công nghệ, việc khiến cho những đoạn phim giả như trên càng ngày tinh vi khiến cho người ta không rành mạch được đâu là thật, đâu là giả, từ đó sẽ gây nên những tai hại khó lường.

* Deepfake là gì?

Deepfake là thuật ngữ ghép từ bỏ chữ deep-learning nghĩa là học tập sâu cùng fake là giả. Deep-learning là hướng nghiên cứu và phân tích trong AI, góp máy tư duy giống fan một cách sâu sắc hơn. Technology deepfake sẽ thu thập hình hình ảnh khuôn khía cạnh của một đối tượng, kế tiếp thay rứa khuôn khía cạnh này vào phương diện của một tín đồ khác trong video. Đối với những tập tin âm thanh, deepfake sử dụng phiên bản ghi âm tiếng nói của một fan thực để huấn luyện máy tính xách tay nói chuyện tương đồng người ấy.

Một ví dụ rõ ràng và tương đối thông dụng về deepfake là ứng dụng ZAO của Trung Quốc.

ZAO là ứng dụng hoàn toàn miễn phí, ra đời đầu mon 9-2019. Bạn chỉ cần đưa lên một tấm ảnh chân dung của bản thân và chọn trong thư viện các đoạn clip của ZAO, tất cả trích đoạn các bộ phim truyện điện hình ảnh hay show truyền hình danh tiếng là các bạn sẽ trở thành diễn viên chính trong các đoạn phim ấy.

* Deepfake dùng để triển khai gì?

Nói chung, deepfake dùng để làm tạo ra đông đảo đoạn video giả dựa vào những tài liệu thật: nội dung clip là thật, dẫu vậy hình hình ảnh và ngôn ngữ của nhân vật dụng trong clip là giả.

Trong ví dụ trên, deepfake là công cụ vui chơi giải trí thú vị tuy nhiên nó còn tồn tại nhiều tính năng lớn hơn. Tùy thuộc vào mục đích, đoạn phim tạo bởi deepfake gồm thể có ích hoặc gồm hại.

Mục đích tốt: ví như một MC bên trên TV do bị bệnh mà mất giọng tạm bợ thời, sử dụng deepfake để tạm thời thay thế sửa chữa MC ấy trong thời hạn bệnh. Hoặc một bộ phim thực hiện nay sắp xong nhưng chẳng may một diễn viên qua đời, deepfake sẽ tạo nên hình diễn viên ấy để triển khai phần còn lại của cỗ phim.

Hay vào các đoạn clip mang tính giáo dục, deepfake rất có thể dùng để chế tác hình cùng tiếng cho một vài nhân vật lịch sử dân tộc dựa theo hình hình ảnh và tiếng nói còn giữ giàng để minh họa được sinh động hơn.

Mục đích xấu: Điều không mong muốn là hiện thời deepfake được sử dụng cho mục tiêu xấu khá nhiều. Hai trong các những mục tiêu xấu tiêu biểu vượt trội được sử dụng nhiều nhất bây chừ là tuyên truyền sai lệch về chủ yếu trị và bôi nhọ bằng phim ảnh khiêu dâm.

Người ta có thể tạo đoạn clip deepfake thoa xấu đối thủ chính trị của mình, như tế bào tả ứng cử viên tổng thống vẫn quấy rối con trẻ em, hoặc một cảnh sát trưởng đã xúi giục nhân viên thực hiện hành vi đấm đá bạo lực với người dân tộc thiểu số…

Việc sử dụng deepfake nhằm ghép mặt nhân vật phụ nữ vào những video khiêu dâm, khỏa thân vẫn gây tác động xấu mang lại danh dự với phẩm giá bán của họ. Những clip này có đặc điểm là lan truyền rất nhanh mặc dầu không riêng biệt thật giả.

Xem thêm: Imprinting Là Gì - Di Truyền Học Của Con Người Và Gen Imprinting

* Deepfake là mọt quan ngại của tất cả thế giới

Về lý thuyết, một đoạn clip deepfake càng như thể thật nếu bao gồm càng những hình ảnh biểu cảm gương mặt và môi của nhân đồ gia dụng để áp dụng ấy mô bỏng và gửi vào video. Do thế, một số chuyên viên khuyên rằng yêu cầu hạn chế chia sẻ các hình ảnh lên mạng xóm hội, phần đa nơi bất kỳ ai cũng có thể dễ ợt tìm thấy nguồn tài liệu cho deepfake.

Thế tuy vậy liệu bạn có làm được không? hơn nữa, với đà phạt triển công nghệ này, như ta thấy cùng với ZAO, chỉ cần một hình ảnh chân dung là hoàn toàn có thể làm được đoạn phim deepfake rồi!

Trung tâm phân tích chiến lược và thế giới (CSIS) của Mỹ xếp các clip được có tác dụng giả dựa trên technology deepfake vào một trong những 5 nguy cơ tiềm ẩn gây mất an toàn toàn cầu năm 2019.

Các nền tảng social nhiều người tiêu dùng như Facebook, YouTube chính là nơi vạc tán đoạn clip deepfake công dụng nhất. Nếu đoạn clip deepfake đó tạo thành nên tác động xấu thì chính các nền tảng này là “tội đồ” khủng nhất. Bởi vì vậy, chúng ta có trách nhiệm phải phát hiện ra các video clip này trước khi chúng được xuất bản trên căn nguyên của mình, như phát hiện tại tin trả (fake news). Tiếc nuối thay, việc phát hiện nay này là vô cùng khó!

Bộ Quốc chống Mỹ, Google và Facebook sẽ tài trợ và hỗ trợ dữ liệu để những nhà nghiên cứu tìm ra giải pháp phát hiện tại deepfake hiệu quả. Năm 2020, Facebook với sự hỗ trợ lớn từ Microsoft và nhiều trường đại học danh giờ đồng hồ đã triển khai cuộc thi Deepfake Detection Challenge (DFDC), với văn bản phát triển công nghệ phát hiện nay những đoạn phim deepfake. Tổng phần thưởng cho cuộc thi này lên đến 10 triệu USD.

* giải pháp mới của Facebook nhằm phát hiện nay deepfake

Deepfake là 1 vấn đề mập trên Facebook, vì đó đó là một trong những công ty đầu tư chi tiêu mạnh tốt nhất cho vấn đề nghiên cứu technology này để bảo đảm chống lại các mối đe dọa trong tương lai. Công trình mới nhất của họ là việc hợp tác với những nhà nghiên cứu và phân tích từ Đại học tập Bang Michigan (MSU), khiến cho một cách thức ứng dụng chuyên môn nghịch đảo (reverse-engineering) nhằm phát hiện nay deepfake: so với hình ảnh do AI tạo ra để bật mí các điểm sáng nhận dạng của quy mô học trang bị đã tạo ra nó.

*
Hình ảnh minh họa giải pháp tạo một video deepfake tất cả hình hình ảnh cựu Tổng thống Barack Obama. Video clip giả này siêu nổi tiếng, nó biểu lộ ông Obama vẫn phát biểu những vấn đề về dịch vụ công, nhưng thực sự ông chưa khi nào nói. Ảnh: AP

Công vấn đề này giúp Facebook theo dõi phần đa kẻ xấu phân phát tán những trò lừa bịp trên căn nguyên của mình. Đó có thể là những tin tức tuyên truyền rơi lệch hoặc rất nhiều nội dung khiêu dâm không có sự đồng thuận. Hiện tại tại, các bước vẫn đang trong giai đoạn nghiên cứu và chưa sẵn sàng triển khai.

Mỗi deepfake được tạo nên bởi một quy mô AI như thế nào đó. Các phân tích trước phía trên trong lĩnh vực này rất có thể xác định mô hình AI nào trong những những quy mô đã biết để tạo ra deepfake, nhưng công trình xây dựng của Facebook đang tiến một bước xa hơn bằng phương pháp xác định các điểm lưu ý kiến trúc của các quy mô chưa biết.

Trưởng nhóm nghiên cứu của Facebook, Tal Hassner cho biết thêm xác định các đặc điểm của các mô hình chưa biết là hết sức quan trọng, chính vì phần mượt deepfake cực kỳ dễ tùy chỉnh. Điều này còn có thể được cho phép những kẻ xấu bịt giấu dấu vết của họ nếu các nhà điều tra đang nỗ lực theo dõi hoạt động của họ.

Hassner nói: “Hãy mang sử một kẻ xấu đang chế tạo ra không ít deepfakes khác biệt và cài đặt chúng lên các nền tảng không giống nhau cho người dùng khác nhau. Nếu đây là một quy mô AI mới trước đó chưa từng thấy trước đây, thì bao gồm rất không nhiều điều mà chúng ta cũng có thể nói về nó trong quá khứ. Bây giờ, bạn cũng có thể nói: Hãy chú ý xem, bức hình ảnh được cài đặt lên sinh sống đây, bức hình ảnh được cài đặt lên sinh sống đó, tất cả chúng đều tới từ cùng một mẫu. Cùng nếu cửa hàng chúng tôi có thể thu giữ máy tính xách tay hoặc laptop (được áp dụng để sinh sản nội dung), chúng tôi sẽ có thể nói: Đây là thủ phạm”.

Hassner giải thích phương thức này bằng phương pháp so sánh với vấn đề lấy dấu vân tay trong nghệ thuật pháp y. Vệt vân tay ở đây là những mẫu tinh tế và sắc sảo nhưng khác biệt để lại trên mỗi hình ảnh do một thiết bị cụ thể tạo ra bởi vì sự không tuyệt vời trong quy trình sản xuất. Vào nhiếp ảnh kỹ thuật số, vệt vân tay được áp dụng để khẳng định loại máy ảnh kỹ thuật số được áp dụng để tạo ra hình ảnh.

* Phát hiện tại deepfake vẫn là trò nghịch “mèo vờn chuột”

Điều quan trọng cần chú ý là trong cả những kết quả hiện đại này cũng không đủ tin cậy. Trong cuộc thi phát hiện deepfake vì Facebook tổ chức triển khai vào năm ngoái, thuật toán đoạt giải nhất chỉ hoàn toàn có thể phát hiện 65,18% các video clip deepfake.

Xem thêm: Biến Giọng Nói Thành Văn Bản Nhanh Chóng, Dễ Dàng, Giọng Nói Thành Văn Bản

Một phần nguyên nhân của vấn đề này là do nghành nghề AI đang phát triển quá nhanh, những kỹ thuật mới được đưa ra mỗi ngày. Tín đồ ta sử dụng AI để tạo ra deepfake, dùng công nghệ AI bắt đầu hơn nhằm phát hiện tại deepfake, rồi lại dùng công nghệ AI mới hơn thế nữa để qua mặt những lý lẽ phát hiện này.

Khi được đặt câu hỏi liệu việc công bố thuật toán lấy vết vân tay mới bao gồm dẫn mang lại việc sẽ có được những deepfake qua khía cạnh các cách thức này hay không, Hassner đồng ý: “Tôi cho là như vậy. Đây là 1 trò nghịch mèo vờn chuột, cùng nó liên tục là trò đùa mèo vờn chuột.”