Cú lừa từ bức ảnh khỏa thân của cô gái 19 tuổi được bán trên mạng

Nhiều hình ảnh khỏa thân do công nghệ AI tạo ra được bán trên mạng.

Trong khi nhiều người xem khen ngợi ngoại hình nổi bật, gợi cảm của cô gái có mái tóc đen tên Claudia, một số người đã tinh ý nhận ra điểm bất thường, Insider đưa tin.

"Với những ai không phải dân trong nghề, tôi sắp sửa giết chết niềm vui của bạn. Cô gái này chỉ là một sự sáng tạo của trí tuệ nhân tạo AI. Nếu từng làm việc với trí tuệ nhân tạo và tự xây dựng mô hình của riêng mình, bạn có thể xác nhận sự thật", một người dùng bình luận.

Kiếm tiền từ ảnh khỏa thân

Tài khoản Reddit của cô gái tên Claudia chủ yếu đăng nội dung người lớn, bao gồm ảnh khiêu dâm, đã thu hút lượng lớn tương tác từ dân mạng.

Theo Rolling Stone, Claudia được tạo ra bởi 2 sinh viên ngành khoa học máy tính, những người này đã yêu cầu giấu tên.

Hai chủ nhân sáng tạo ra Claudia cho biết tài khoản này được lập ra ban đầu như một trò đùa, sau khi thấy một người kiếm được 500 USD nhờ bán ảnh của phụ nữ thật.

Claudia là sản phẩm được tạo ra bởi hai sinh viên ngành khoa học máy tính.

Hai người cũng đã kiếm được khoảng 100 USD khi bán ảnh khỏa thân của Claudia, trước khi cô bị bóc mẽ chỉ là sản phẩm của AI.

"Mọi người có thể coi toàn bộ câu chuyện này chỉ là một cách thử nghiệm xem liệu công chúng có bị đánh lừa bằng hình ảnh tạo ra bằng AI hay không", một trong hai tác giả nói với Rolling Stone.

Theo đó, Claudia được so sánh với những nhân vật ảo trên YouTube. "Thành thật mà nói, chúng tôi không nghĩ nhân vật của mình lại thu hút được nhiều sự chú ý đến vậy".

Claudia đã được thực hiện với trí tuệ nhân tạo có tên Stable Diffusion, bằng cách sử dụng cú pháp hướng dẫn thiết kế như: "không trang điểm, mái tóc đen, tóc dài ngang vai, phông nền đơn giản, tóc thẳng, tóc mái".

Claudia xuất hiện giữa kỷ nguyên mới của ngành công nghiệp giải trí dành cho người lớn, bao gồm cả nhóm ủng hộ và phản đối các mô hình do AI tạo ra.

Unstable Diffusion, một nhóm vận động hợp pháp hóa nội dung khiêu dâm do AI tạo ra, đã huy động được gần 60.000 USD trên Kickstarter trước khi bị cấm khỏi trang gây quỹ cộng đồng này.

Tuy nhiên, khi công nghệ AI tiếp tục có những cải tiến, các nhiếp ảnh gia và nghệ sĩ đã bày tỏ mối quan ngại và kêu gọi cần có nhiều quy định hơn. Nội dung khiêu dâm Deepfake từ lâu đã bị chỉ trích vì sử dụng hình ảnh của một người để tạo nội dung người lớn mà không có sự đồng ý của họ.

"Tôi không nghĩ luật pháp đã bắt kịp mức độ nguy hại của AI. Khi mọi thứ tiến triển, nó thậm chí có thể trở thành vấn đề đối với sinh kế của mọi người", nhiếp ảnh gia Presley Ann nói với Insider.

Mặt tối của công nghệ AI

Stable Diffusion được ra mắt vào tháng 8/2022 bởi công ty Stability AI. Khác với các ứng dụng khác, Stable Diffusion có khả năng sáng tác bất cứ hình ảnh nào theo yêu cầu của con người.

Tuy nhiên, tính năng này đã bị một số người lợi dụng để tạo ra hình ảnh đồi trụy, với mục đích kiếm tiền hoặc đe dọa người khác.

Đầu tháng 8, những tấm ảnh khỏa thân, khêu gợi được tạo ra bằng bản thử nghiệm của Stability AI xuất hiện trên các diễn đàn và trang mạng xã hội. Điều này buộc Stability AI phải cảnh báo người dùng trên trang Twitter cá nhân của mình.

Trên Reddit đã xuất hiện nhiều mục nội dung khiêu dâm đến từ ứng dụng AI. Các chủ đề này sở hữu gần 2.000 thành viên theo dõi.

Tháng 2 năm nay, một du thuyền ở Trung Quốc gây tranh cãi khi dùng ảnh hot girl được vẽ bằng AI để quảng cáo dịch vụ hầu gái trên tàu của mình.

Ảnh "hầu gái" được du thuyền hạng sang ở Trung Quốc quảng cáo do AI tạo ra.

Theo SCMP, du thuyền sang trọng trên hồ Jinji, tỉnh Giang Tô, miền đông Trung Quốc đã đăng bài quảng cáo với gói dịch vụ "hầu gái", có giá 3.000 nhân dân tệ (khoảng 430 USD), nhằm thu hút khách hàng đặt lịch.

Một số khách hàng quét mã QR trên poster quảng cáo để liên hệ với đơn vị tổ chức tiệc và nhận được danh sách 43 bức chân dung "cô hầu gái". Trong đó, các cô gái mặc trang phục gợi cảm, khiêu dâm để khách lựa chọn.

Tuy nhiên, khi các khách hàng quan tâm xem xét kỹ hơn những bức chân dung hầu gái, họ phát hiện đó chỉ là sản phẩm do công nghệ AI tạo ra chứ không phải người thật.

Cảnh sát cho biết đã nói chuyện với người tổ chức tiệc du thuyền giấu tên và sự việc đã được "dàn xếp". Vào ngày 21/2, bất kỳ ai quét mã QR trên áp phích đều thấy thông báo tuyên bố rằng bữa tiệc đã bị hủy bỏ sau khi bị cảnh sát chỉnh đốn.

Giờ đây, một phần nhờ vào các công cụ AI mới, dễ sử dụng, bất kỳ ai có quyền truy cập vào hình ảnh khuôn mặt của nạn nhân đều có thể tạo nội dung khiêu dâm giống như thật với cơ thể do trí tuệ nhân tạo sáng tác.

Tạo hình ảnh bằng các mô hình AI chuyển văn bản sang hình ảnh như Midjourney, Dall-E 2 và Stable Diffusion trở nên phổ biến với những người yêu công nghệ trong những tháng gần đây.

Theo Digital Camera World, Dall-E mini cho ảnh khá giả tạo, giống như Photoshop. Trong khi đó, thuật toán của Midjourney tạo ra hình ảnh giống những bức tranh nghệ thuật hoặc siêu thực.

Tính đến năm 2019, 96% deepfake trên Internet là nội dung khiêu dâm, theo một phân tích của công ty AI DeepTrace Technologies. Nhiều phụ nữ trở thành nạn nhân của công nghệ này.

Các chuyên gia nhận định phụ nữ dễ dàng trở thành nạn nhân bị tống tiền, lạm dụng, bị làm bẽ mặt khi kẻ xấu dùng công nghệ để tạo ra hình ảnh khiêu dâm từ khuôn mặt của họ.

Nhà nghiên cứu độc lập Genevieve Oh cho biết nguồn cung deepfake ngày càng tăng, số lượng clip mới trên trang web deepfake khiêu dâm tăng gần gấp đôi từ năm 2021 đến năm 2022, khi các công cụ hình ảnh AI phát triển nhanh chóng.

Tác giả: Đinh Phạm

Nguồn tin: zingnews.vn