Vào đầu tháng 3, cộng đồng mạng ngạc nhiên với video quay với nhân vật chính là diễn viên Tom Cruise diễn ảo thuật, kể một câu chuyện cười và tập đánh golf.

“Tôi sẽ cho bạn thấy một phép ảo thuật. Nó là thật đấy”, Tom Cruise trong video vừa nói, vừa diễn trò với một đồng xu.

Tuy nhiên, nhân vật trong video thực tế không phải diễn viên nổi tiếng. Khuôn mặt Tom Cruise thực chất đã được ghép vào thân của một người khác một cách gần như hoàn hảo, nhờ ứng dụng trí tuệ nhân tạo thường được gọi là deepfake.

Danh sách nạn nhân deepfake ngày càng dài

Nhiều diễn viên nổi tiếng tại Hollywood đã bị ghép mặt bằng deepfake vào các video phim nóng.

Tháng 12/2017, deepfake trở thành danh từ khi người dùng có tên "deepfakes" công bố một loạt video khiêu dâm trên diễn đàn Reddit. Người dùng này đã sử dụng AI để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm.

Khuôn mặt diễn viên Tom Cruise bị ghép vào video bằng công nghệ deepfake.

Tuy vậy, không chỉ người nổi tiếng mới là nạn nhân. Tháng 4/2018, Rana Ayyub, một nhà báo điều tra tại Ấn Độ, được báo tin về video khiêu dâm ghép mặt của cô vào cơ thể một phụ nữ khác.

Khi cô biết được điều này, video đã được chia sẻ hàng nghìn lần trên Facebook, Twitter, WhatsApp. Ayyub, 34 tuổi đã đối mặt với rất nhiều lời dọa nạt, tấn công trên mạng, nhưng lần này thì khác.

“Đoạn phim đã thực sự đánh gục tôi. Điều duy nhất tôi cảm thấy là phải chăng đây là hình ảnh mà mọi người nghĩ về tôi. Nó còn đáng sợ hơn nhiều so với một lời đe dọa đánh đập”, Ayyub kể lại trải nghiệm đáng sợ này với India Today.

Những ứng dụng deepfake ngày càng dễ sử dụng, thậm chí được phát hành rộng rãi. Giữa năm 2019, phần mềm Dee****e xuất hiện với khả năng tạo nên hình ảnh khỏa thân giả chỉ bằng vài cái click chuột.

Hình ảnh được tạo ra từ phần mềm Dee****e. Ảnh: The Verge.

Dee****e sử dụng công nghệ deepfake để tạo ra hình ảnh giả. Người dùng có thể tải về miễn phí trên Windows, hoặc bỏ 99 USD để có hình ảnh chất lượng cao hơn. Phần mềm này sau đó đã bị gỡ bỏ.

Hiện nay, có thể bắt gặp rất nhiều video deepfake trên mạng. Chúng có thể mang tính vui vẻ, như cho Tom Cruise diễn ảo thuật, diễn viên đóng vai Jon Snow xin lỗi khán giả Game of Thrones vì phim quá dở. Tuy nhiên, chúng cũng có thể mang lại hậu quả khi bị lạm dụng.

Chia sẻ video deepfake có phải là tội ác?

Hầu hết video phim nóng ghép mặt bằng deepfake đều bị phản ứng dữ dội. Vào tháng 1, dân mạng Hàn Quốc gọi nhau ký tên để có luật xử lý những ứng dụng ghép mặt, sau khi nhiều video ghép mặt diễn viên, ca sĩ Hàn Quốc xuất hiện trên mạng.

Chỉ sau một ngày, trang kêu gọi ký tên đã được hơn 330.000 người ủng hộ. “Deepfake rõ ràng là tội phạm tình dục”, một người ủng hộ nhấn mạnh.

Sự đa dạng của những thể loại video deepfake, cùng với chất lượng càng ngày càng giống thật đang tạo ra lằn ranh mập mờ về mặt pháp lý.

Vào cuối tháng 2, Ủy ban luật pháp Anh và xứ Wales đã đề xuất đưa việc chia sẻ video phim người lớn deepfake trở thành hành vi vi phạm pháp luật.

Việc chia sẻ phim, ảnh nóng không được phép tại Anh đã bị luật pháp nước này quy định là phạm pháp từ năm 2015. Đề xuất mới sẽ đưa cả những video deepfake vào khuôn khổ.

“Rõ ràng là cần những điều chỉnh về luật”, Giáo sư luật Penney Lewis, thành viên hội đồng cho biết.

Với công nghệ deepfake, chỉ cần có đủ dữ liệu, kẻ gian có thể giả mạo bất kỳ ai. Ảnh: MIT Technology Review.

Bên cạnh những video nhạy cảm, deepfake còn có thể tạo ra tác hại nghiêm trọng nếu được sử dụng cho mục đích chính trị. Đoạn video ghép mặt cựu Tổng thống Mỹ Barack Obama, từng được lan truyền năm 2018, cho thấy những nhân vật chính trị hàng đầu cũng có thể trở thành nạn nhân.

Năm 2019, đến lượt bà Nancy Pelosi, Chủ tịch Hạ viện Mỹ trở thành nạn nhân. Video bị chỉnh sửa cho thấy hình ảnh bà Pelosi phát biểu trong khi đang say, lời nói không được rõ ràng.

Vào cuối năm 2019, bang California, Mỹ đã thông qua bộ luật quy định hành vi tạo hoặc chia sẻ video deepfake là phạm pháp. Luật này chỉ rõ những video chỉnh sửa có chứa hình ảnh, video hoặc giọng nói của các chính trị gia trong vòng 60 ngày của cuộc bầu cử là vi phạm pháp luật.

Tuy nhiên, nhiều chuyên gia cho rằng rất khó để áp dụng các bộ luật khi chính những “bộ lọc” deepfake cũng chưa thể chạy hoàn chỉnh. Năm 2019, CEO Facebook Mark Zuckerberg thừa nhận các thuật toán của mạng xã hội này chưa thể nhận ra video bị chỉnh sửa đủ nhanh. Chính Zuckerberg cũng trở thành nạn nhân của một video deepfake chỉ trích công ty của ông.

Trong bài viết cho Wall Street Journal, Giáo sư Cass Sunstein của đại học Harvard nhận định quản lý deepfake sẽ là vấn đề khó. Mấu chốt của những quốc gia như Mỹ là cân bằng giữa quản lý video giả và tự do ngôn luận.

“Tự do ngôn luận có thể là quyền quan trọng nhất của chúng ta, nhưng những công ty tư nhân và cơ quan công đều phải tìm cách điều chỉnh những quy định lâu năm để đối phó với những mối nguy hại khó lường”, Giáo sư Sunstein kết luận.

Tác giả: Nhật Minh

Nguồn tin: zingnews.vn