1. Chuyện gì đã xảy ra?
Ngày 26/9, đêm chung kết cuộc thi Hoa hậu Hàn Quốc (Miss Korea) năm 2024 trở thành tâm điểm tranh cãi của công chúng nước này. Nguyên nhân bởi ở phần thi ứng xử, nhóm thí sinh top 5 đã nhận được câu hỏi:
“Nếu bạn hấp dẫn hơn trong một video deepfake, bạn sẽ làm gì để thu hẹp khoảng cách giữa phiên bản deepfake và con người thật của mình?”.
Cư dân mạng Hàn Quốc đã gần như lập tức tràn vào Instagram cuộc thi để công kích ban tổ chức. Họ không hiểu vì sao câu hỏi này lại được duyệt cho màn thi ứng xử, đặc biệt khi nhiều bê bối liên quan đến deepfake đang xảy ra ở nước này. Câu hỏi cũng dễ bị hiểu theo hướng “tôn vinh” deepfake, rằng vẻ đẹp do công nghệ này tạo ra mới là chuẩn mực.
Một số người còn phát hiện ban tổ chức dường như đã cố tình xóa những bình luận “ném đá” này, và sau đó khóa hẳn chức năng bình luận trên Instagram. Đến ngày 27/9, ban tổ chức Hoa hậu Hàn Quốc là Global E&B Co. phải chính thức lên tiếng xin lỗi. Họ thừa nhận sai lầm khi đưa ra câu hỏi thiếu tế nhị lúc AI đang là đề tài nhạy cảm.
“Câu hỏi vốn được đưa ra nhằm đào sâu việc AI được sử dụng ngày một phổ biến trong lĩnh vực phim ảnh, quảng cáo hay giáo dục. Tuy nhiên chúng tôi đáng nhẽ nên lưu ý hơn về việc deepfake đang bị khai thác cho nhiều nội dung bất hợp pháp”, đại diện Global E&B Co. cho biết.
2. Vì sao deepfake bị công chúng phản đối dữ dội?
Deepfake là thuật ngữ kết hợp giữa deep learning (học sâu) và fake (làm giả). Đây vốn là kỹ thuật kết hợp giữa các thuật toán học sâu và học máy để tạo ra những video, hình ảnh hoặc âm thanh giả mạo một cách chân thực nhất có thể.
Trong giáo dục, deepfake được sử dụng để thiết kế những bài giảng hấp dẫn, thú vị cho người học. Trong y học, nó có thể tạo ra các mô hình giả lập cơ thể người, giúp các chuyên gia nghiên cứu và phát triển các phương pháp điều trị mới cho nhiều bệnh nguy hiểm.
Và trong lĩnh vực nghệ thuật - giải trí, deepfake có thể tạo ra các cảnh quay hoặc nhân vật mới, giúp tiết kiệm đáng kể chi phí sản xuất. Chẳng hạn trong Fast and Furious 7, khi Cody Walker thay thế người anh trai quá cố là diễn viên Paul Walker thực hiện phân cảnh cuối, nhà sản xuất đã dùng deepfake để giúp anh có thần thái giống Paul nhất có thể.
Tuy nhiên cũng do tính chất “thật giả lẫn lộn” mà công nghệ deepfake dễ bị lợi dụng cho mục đích sai trái. Một video deepfake có thể bị sử dụng để vu khống, lan truyền tin đồn sai trái về một người hoặc một sự kiện quan trọng. Điều này có thể gây ra những hệ quả nghiêm trọng cho cuộc sống của người đó, hoặc làm rối loạn an ninh, trật tự xã hội.
Điển hình vào tháng 8/2024, một nhóm sinh viên Hàn Quốc đã bị bắt gặp điều hành một phòng chat trên Telegram chuyên chia sẻ các video khiêu dâm deepfake của nữ sinh trong trường. Vụ việc đã gây làn sóng phẫn nộ trong công chúng, và tới ngày 25/9 một dự luật về phòng chống tội phạm deepfake đã được Quốc hội Hàn Quốc thông qua.
Theo đó, những ai sở hữu, mua bán hoặc tiêu thụ các tài liệu khiêu dâm deepfake có thể đối mặt với mức án lên tới 3 năm tù giam, hoặc khoản tiền phạt lên tới 30 triệu won (khoảng 553 triệu VND).
3. Người nổi tiếng nào đã trở thành nạn nhân của deepfake?
Vào tháng 3/2022, khi chiến tranh Nga-Ukraine mới bắt đầu, một video deepfake với hình ảnh Tổng thống Ukraine Volodymyr Zelensky kêu gọi người dân nước mình đầu hàng Nga đã lan truyền khắp nơi. Video này đã gây rối loạn trong cộng đồng người Ukraine ở khu vực biên giới với Nga, dù ông Zelensky đã lên tiếng đính chính ngay sau đó.
Rapper Drake cũng từng bị deepfake “giả giọng” trong một ca khúc mang tên Push Ups, có nội dung “đá đểu” Kendrick Lamar, Metro Boomin cùng nhiều nghệ sĩ khác. Các fan của anh đã phải cầu xin cộng đồng mạng dừng việc nghe và chia sẻ nó.
Và hồi tháng 1 năm nay, một hình ảnh với tư thế khiêu dâm cắt ghép dựa trên khuôn mặt Taylor Swift đã lan truyền chóng mặt trên internet. Vụ việc khiến Thư ký báo chí Nhà Trắng Katherine Jean-Pierre bày tỏ nỗi lo ngại, và cho biết chính phủ Mỹ sẽ nhanh chóng có hành động lập pháp để chống lại tội phạm AI.