Các bot này có nhiều chức năng khác nhau như “gỡ bỏ quần áo” từ ảnh hay tạo ra hình ảnh của những người trong các hành vi tình dục khác nhau. Ảnh: Adobe Stock.

Đầu năm 2020, lần đầu tiên chuyên gia về deepfake Henry Ajder phát hiện một bot trên Telegram có khả năng “lột đồ” các hình ảnh của phụ nữ bằng công nghệ AI. "Khi đó, bot này đã tạo ra hơn 100.000 bức ảnh khiêu dâm, trong đó có cả những hình ảnh của trẻ em”, Ajder chia sẻ.

2020 cũng là một cột mốc đánh dấu sự nguy hiểm của deepfake và những hệ lụy khủng khiếp mà nó có thể mang lại. Kể từ đó, deepfake đã trở nên phổ biến hơn, gây hại nhiều hơn và dễ dàng sản xuất hơn.

Thiên đường cho deepfake

Theo một khảo sát của Wired, hiện nay đã có ít nhất 50 bot trên Telegram quảng cáo khả năng tạo ra hình ảnh hoặc video khiêu dâm chỉ với vài cú nhấp chuột. Các bot này có nhiều chức năng khác nhau như “gỡ bỏ quần áo” từ ảnh hay tạo ra hình ảnh của những người trong các hành vi tình dục khác nhau. Chúng không chỉ phổ biến ở các cộng đồng nói tiếng Anh mà còn có thể xuất hiện ở nhiều ngôn ngữ khác.

Theo thống kê từ các bot, Wired ước tính có hơn 4 triệu người dùng hàng tháng đang sử dụng các công cụ này. 2 trong số các bot có hơn 400.000 người dùng mỗi tháng. 14 bot khác có hơn 100.000 thành viên.

Một bot cởi đồ trên Telegram. Ảnh: AI Trends.

“Thật sự đáng lo ngại khi những công cụ này đang phá hủy cuộc sống của nhiều người và tạo ra một viễn cảnh ác mộng, chủ yếu nhắm đến các cô gái trẻ và phụ nữ. Nhưng chúng lại dễ dàng tiếp cận và tìm thấy trên mạng như vậy, trên một trong những ứng dụng lớn nhất thế giới”, chuyên gia deepfake Henry Ajder nhận định.

Theo Wired, nội dung deepfake phi đạo đức thường được gọi là lạm dụng hình ảnh thân mật không tự nguyện (NCII). Loại hình ảnh này đã bùng nổ kể từ cuối năm 2017. Trong đó, AI càng thổi bùng cho sự phát triển của loại nội dung khiêu dâm.

Trên khắp Internet, các trang web “gỡ bỏ quần áo” và “cởi đồ” tồn tại song song với các công cụ AI tinh vi và các bot trên Telegram. Chúng nhắm vào hàng nghìn phụ nữ và trẻ em gái trên khắp thế giới, từ thủ tướng Italy đến các nữ sinh ở Hàn Quốc. Theo một khảo sát gần đây, 40% học sinh ở Mỹ đã nhận thức về deepfake diễn ra ngay trong trường học của họ trong năm qua.

Emma Pickering, trưởng bộ phận lạm dụng hình ảnh không đồng thuận tại tổ chức Refuge (Anh), khẳng định: "Những loại hình ảnh này có thể gây ra tổn thương tâm lý nghiêm trọng, tạo cảm giác nhục nhã, sợ hãi và xấu hổ cho nạn nhân”. Pickering cho rằng loại lạm dụng này ngày càng trở nên phổ biến, song, kẻ phạm tội hiếm khi bị trừng phạt.

Telegram từ lâu đã bị chỉ trích vì cách quản lý lỏng lẻo đối với nội dung độc hại. Ứng dụng này thường bị sử dụng bởi các nhóm cực đoan, những kẻ lừa đảo và thậm chí là các tổ chức liên quan đến khủng bố. Với chức năng tìm kiếm mạnh mẽ, Telegram cho phép người dùng dễ dàng tìm thấy các cộng đồng, nhóm chat và bot có nội dung không lành mạnh.

Các bot Telegram Wired phát hiện được hỗ trợ bởi ít nhất 25 kênh Telegram, với tổng cộng hơn 3 triệu thành viên. Tại đây, người dùng có thể nhận thông báo về các tính năng mới từ bot, mua các "token" để sử dụng dịch vụ và thậm chí tìm các bot mới nếu những bot trước đó bị Telegram gỡ bỏ.

Bot cũ bị xóa, bot mới lại mọc lên

Khi Wired liên hệ với Telegram về vấn đề này, công ty đã nhanh chóng xóa bỏ 75 bot và kênh tạo deepfake khiêu dâm. Tuy nhiên, sau đó, nhiều kênh đã thông báo rằng bot của họ đã bị xóa và ngay lập tức tạo ra các bot mới thay thế. Một chủ kênh viết: "Ngày mai chúng tôi sẽ tạo bot khác”.

Theo Wired, bot trên Telegram thực chất là những ứng dụng nhỏ hoạt động trong nền tảng. Chúng tồn tại bên cạnh các kênh, cho phép gửi tin nhắn đến một người đăng ký mà không giới hạn số lượng. Thậm chí, có các nhóm Telegram sở hữu đến 200.000 người có thể tương tác với nhau.

Các nhà phát triển đã tạo ra bot để người dùng làm bài kiểm tra, dịch tin nhắn hoặc mở cuộc họp Zoom. Nhưng chúng cũng đã bị lạm dụng để tạo ra các hình ảnh deepfake vô đạo đức.

Telegram là thiên đường cho các công cụ deepfake bằng AI. Ảnh: Adobe Stock.

Các bot này tồn tại rất công khai, không cần phải truy cập vào các khu vực ẩn hay có mật khẩu phức tạp. Telegram cho phép người dùng dễ dàng tìm kiếm và truy cập vào các bot qua chức năng tìm kiếm của ứng dụng.

Tên gọi và dòng mô tả của các bot thường nhắc đến khỏa thân và hành vi gỡ bỏ quần áo của phụ nữ. Một trong những bot này viết: “Tôi có thể làm bất cứ điều gì bạn muốn với khuôn mặt hoặc quần áo trong bức ảnh bạn cung cấp”. Một bot khác viết: “Hãy trải nghiệm cơn sốc do AI mang lại”. Hệ thống đề xuất của Telegram còn hiển thị các kênh “tương tự”, giúp người dùng tiềm năng dễ dàng chuyển qua lại giữa các kênh và bot.

Ngoài ra, một số bot không yêu cầu người dùng xác nhận bất kỳ điều gì. Chỉ cần mua token là có thể bắt đầu tạo ra những hình ảnh khiêu dâm từ ảnh có sẵn. Một số người sáng tạo bot còn tuyên bố rằng họ có thể tạo ra bất kỳ hình ảnh nào mà người dùng mong muốn từ khuôn mặt hoặc quần áo trong ảnh.

Nhiều bot yêu cầu người dùng phải trả tiền để sử dụng. Theo Wired, có vẻ như hệ sinh thái này đã trở thành một nguồn thu nhập đáng kể cho những người đứng sau. Một số bot còn quảng cáo khả năng "huấn luyện" một mô hình AI từ một loạt ảnh của một người, sau đó tạo ra những bức ảnh deepfake mới về người đó.

Là người đã phát hiện ra bot deepfake trên Telegram cách đây 4 năm, Ajder cho rằng ứng dụng này gần như là thiên đường của deepfake. “Telegram cung cấp chức năng tìm kiếm, giúp bạn xác định các cộng đồng, cuộc trò chuyện và bot. Nó cung cấp chức năng lưu trữ bot, cung cấp các công cụ cần thiết. Và cũng chính tại đây bạn có thể chia sẻ với thành quả cuối cùng”, ông nói.

Dù deepfake phát triển với tốc độ chóng mặt, các nhà lập pháp và công ty công nghệ vẫn chậm chạp trong việc kiểm soát. Tại Mỹ, 23 bang đã ban hành luật giải quyết deepfake vô đạo đức. Các công ty công nghệ lớn cũng chỉ mới bắt đầu thay đổi chính sách để ngăn chặn sự lạm dụng này.

Tuy nhiên, các ứng dụng tạo deepfake vẫn có thể được tìm thấy trên các kho ứng dụng của Apple và Google. Thậm chí, các hình ảnh deepfake của ca sĩ Taylor Swift đã được chia sẻ rộng rãi trên mạng xã hội X vào đầu năm nay.

Kate Ruane, giám đốc dự án tự do ngôn luận tại Center for Democracy and Technology, nhận định rằng các nền tảng công nghệ lớn hiện nay đều có chính sách cấm phân phối hình ảnh không đồng thuận. Nhưng những chính sách này chưa rõ ràng khi áp dụng với Telegram.

Tác giả: Thúy Liên

Nguồn tin: znews.vn