Deepfake Blackpink, tưởng thật nhưng giả! | Vietcetera

Deepfake Blackpink, tưởng thật nhưng giả!

Từ BlackPink cho tới Barack Obama, ai cũng là nạn nhân của deepfake!

 Nguồn: Potchi Land Youtube

Nguồn: Potchi Land Youtube

1. Deepfake Blackpink - Chuyện gì đã và đang xảy ra?

Deepfake là phần mềm dựa trên trí thông minh nhân tạo (AI) để thay đổi mặt hay giọng nói của một nhân vật bất kỳ vào một hình ảnh, video.

alt
Ai cũng là nạn nhân của deepfake | Nguồn: ABC News

Vừa qua một tài khoản Twitter đã liên tục đăng tải hình ảnh các thành viên của Blackpink bị chỉnh sửa bằng deepfake cho các video khiêu dâm. Việc nữ ca sĩ Nancy bị phát tán ảnh chụp lén cũng làm dư luận một lần nữa nhắc lại việc các ngôi sao, đặc biệt là nữ bị đối xử như một món hàng tình dục (theo vnexpress.net). Đáng nói hơn trước đây Nancy cũng là một nạn nhân của deepfake.

Trong một nỗ lực chống vấn nạn deepfake thì vừa qua, một học sinh 17 tuổi tên Greg Tarr đã chiến thắng cuộc thi công nghệ BTYSTE 2021 với phát minh là phần mềm phát hiện deepfake.

2. Công nghệ nào đứng sau deepfake?

Những phát minh đột phá thường ngẫu nhiên “rơi trúng đầu” vào những lúc người ta không ngờ tới. Trong một buổi chè chén năm 2014, Ian Goodfellow khi đang đi uống cùng 3 học sinh vừa tốt nghiệp của mình thì được đề nghị: “Ông ơi tham gia dự án xây cái máy tính tạo ra được hình ảnh với chúng tôi đi!"

Đó là cái cách GAN (Generative Adversarial Networks) - mạng sáng tạo đối nghịch được tạo ra. Đây là nền tảng Machine Learning giúp tạo ra deepfake và được cho là “đề xuất là ý tưởng thú vị nhất về Machine Learning trong vòng mười năm qua…”

Về cơ bản GAN làm được rất nhiều thứ, từ chỉnh hình tới tạo ra hình mới. Bức tranh tạo ra từ GAN bởi nhóm Obivious thậm chí bán được tới $10,000.

3. Bạn cũng đã từng sử dụng deepfake?

Trong bối cảnh mà deepfake trở thành một hiện tượng, đi kèm với sự thao túng của âm thanh và hình ảnh, thì khái niệm “cheapfake” được hình thành. Nếu deepfake được tạo ra từ một hệ thống phức tạp như GAN thì cheapfake đơn giản và dễ sử dụng hơn. Có thể hiểu đây là phiên bản “ngon, bổ, rẻ" của deepfake mà ai cũng có thể tiếp cận.

Với cheapfake ai cũng có khả năng tạo ra tin giả. Từ ghép mặt, tới đổi giọng,... tất cả có thể được làm với vài thao tác cơ bản trên apps điện thoại. Một ví dụ thường thấy chính là phần mềm FaceApps nổi tiếng 1 thời. Sự thật “mắt thấy tai nghe” bây giờ có thể được làm giả một cách dễ dàng.

4. Ai cũng có thể là nạn nhân?

96% video deepfake lại đang nhắm tới phụ nữ với mục đích biến họ thành sản phẩm khiêu dâm. Phần mềm nhắn tin Telegram có một con bot có khả năng lột quần áo nhờ vào deepfake. Bức ảnh đó sẽ trôi nổi trên internet hoặc sẽ bị kẻ xấu lợi dụng để tống tiền. Hình ảnh là giả, video cũng là giả nhưng những gì bạn phải trải qua và chịu đựng là thật.

5. Vậy đã có ai chống lại việc này chưa?

Trong nỗ lực chống tin giả về cuộc bầu cử tổng thống Mỹ, Facebook đã cấm hoàn toàn việc đăng các video deepfake. Bên cạnh đó Facebook cùng Microsoft tạo ra cuộc thi truy dấu deepfake toàn cầu. Không thua kém gì, Google cũng nhanh chóng cho ra mắt kho dữ liệu deepfake siêu khủng.

Nguồn dữ liệu này sẽ hỗ trợ vào việc xây dựng các công cụ phát hiện deepfake, từ đó ngăn chặn sự phát triển của fake news cũng như sự thao túng truyền thông.

6. Luật Benford liệu có phải là giải pháp trong tương lai?

Luật Benford - Luật của con số đầu tiên - đã tạo ra khuôn mẫu cho những con số tưởng chừng là ngẫu nhiên. Nói đơn giản hơn, trong các bộ dữ liệu thì khoảng 30% của số liệu bắt đầu bằng số 1. Và tần suất xuất hiện của các con số giảm dần tới 9 tạo thành một đường cong Benford hoàn hảo.

alt
Biểu đồ luật Benford | Nguồn: temple.edu

Hình ảnh cũng có thể chuyển đổi thành những con số và những hình ảnh tự nhiên sẽ đi theo định luật Benford. Khi hệ thống GAN can thiệp để tạo ra một phiên bản deepfake từ hình gốc, thì hình ảnh mới khi được chuyển đổi sang dạng số sẽ không đi theo luật Benford. Đây là cách ta phát hiện ra hình bị deepfake. (Nguồn: analyticsindiamag.com)

Tuy nhiên, nghiên cứu cũng chỉ ra rằng, nếu áp dụng luật Benford vào những thiếu sót của hệ thống GAN thì có khả năng trong tương lai những hình ảnh giả này sẽ càng trở nên thực tế hơn.

7. Giải pháp nào cho cuộc chiến này?

Có thể thấy cuộc chiến chống tin giả đã bước sang một trang mới. Theo như báo MIT, có những vấn đề về deepfake mà công nghệ không thể giải quyết. Chuyên gia tin giả Ovadya chỉ ra rằng phát triển “giáo dục, xã hội và xây dựng cơ sở hạ tầng” có thể cân bằng mức độ ảnh hưởng của deepfake. Bản thân cha đẻ của GAN, thuật toán đằng sau deepfake cũng tin rằng cuộc đấu tranh chống tin giả phụ thuộc vào nhận thức của xã hội, ví dụ như việc giáo dục trẻ em cách tư duy phản biện và tranh luận. (Nguồn: technologyreview.com)

Sự thật thì mất lòng. Trong cuộc đấu tranh này vũ khí của chúng ta không phải là công nghệ mà chính là nhận thức của mỗi cá nhân.