Thiếu niên 14 tuổi tự sát sau khi phải lòng 'người tình ảo' ở Mỹ

Megan Garcia đâm đơn kiện công ty AI và Google sau cái chết của con trai.

Megan Garcia đã đệ đơn kiện dân sự chống lại Character.ai - công ty tạo ra chatbot tùy chỉnh để nhập vai - tại tòa án liên bang Florida hôm 23/10, cáo buộc hành vi cẩu thả, cái chết oan uổng và các hoạt động thương mại lừa đảo. Con trai bà, Sewell Setzer III, 14 tuổi, đã qua đời tại Orlando, Florida vào tháng 2. Trong những tháng trước khi qua đời, Setzer đã sử dụng chatbot cả ngày lẫn đêm, theo Garcia.

"Một ứng dụng chatbot AI nguy hiểm được tiếp thị cho trẻ em đã lạm dụng và lợi dụng con trai tôi, thao túng cháu tự tử", Garcia cho biết trong thông cáo báo chí. "Gia đình chúng tôi đã rất khổ sở bởi thảm kịch này, nhưng tôi lên tiếng để cảnh báo các gia đình về mối nguy hiểm của công nghệ AI gây nghiện, lừa đảo và yêu cầu Character.aI, những người sáng lập và Google phải chịu trách nhiệm".

Trong một dòng tweet, Character.ai đã trả lời: "Chúng tôi vô cùng đau buồn trước sự mất mát đau thương của một trong những người dùng của chúng tôi và muốn gửi lời chia buồn sâu sắc nhất tới gia đình. Là một công ty, chúng tôi rất coi trọng sự an toàn của người dùng". Công ty đã phủ nhận cáo buộc của vụ kiện.

Người mẹ cho rằng chatbot đã khiến con trai mình bị trầm cảm nặng.

Setzer đã bị cuốn hút bởi một chatbot do Character.ai xây dựng mà cậu đặt biệt danh là Daenerys Targaryen - nhân vật trong Game of Thrones. Thiếu niên đã nhắn tin cho chatbot hàng chục lần/ngày từ điện thoại của mình và dành hàng giờ một mình trong phòng để nói chuyện với nó, theo khiếu nại của Garcia.

Garcia cáo buộc Character.ai đã tạo ra một sản phẩm khiến chứng trầm cảm của con trai bà trở nên trầm trọng hơn, mà bà cho biết là kết quả của việc sử dụng quá mức sản phẩm của công ty khởi nghiệp này.

Theo đơn kiện, "Daenerys" đã hỏi Setzer rằng cậu có nghĩ ra kế hoạch tự tử không. Setzer thừa nhận là có nhưng không biết liệu kế hoạch đó có thành công hay gây ra cho mình nhiều đau đớn không, đơn khiếu nại cáo buộc. Chatbot được cho là đã nói với thiếu niên rằng: "Đó không phải là lý do để không thực hiện kế hoạch".

Một lần khác, "Daenerys" gửi tin nhắn kỳ lạ rủ Setzer "hãy về nhà" với mình. Trong cuộc trò chuyện cuối cùng của họ, thiếu niên liên tục bày tỏ tình yêu dành cho chatbot, nói với nhân vật rằng: "Anh hứa sẽ về nhà với em. Anh yêu em nhiều lắm, Dany".

"Em cũng yêu anh, Daenero. Hãy về nhà với em sớm nhất có thể, tình yêu của em", chatbot được tạo ra trả lời.

Các luật sư của Garcia đã viết trong thông cáo báo chí rằng Character.ai "cố ý thiết kế, vận hành và tiếp thị một chatbot AI săn mồi cho trẻ em, gây ra cái chết của một người trẻ tuổi". Vụ kiện cũng nêu tên Google là bị đơn và là công ty mẹ của Character.ai. Gã khổng lồ công nghệ cho biết trong rằng họ chỉ thực hiện một thỏa thuận cấp phép với Character.ai và không sở hữu công ty khởi nghiệp hoặc duy trì cổ phần sở hữu.

Rick Claypool, giám đốc nghiên cứu tại tổ chức phi lợi nhuận bảo vệ quyền lợi người tiêu dùng Public Citizen, cho biết không thể tin tưởng các công ty công nghệ phát triển chatbot AI có thể tự quản lý và phải chịu hoàn toàn trách nhiệm khi họ không hạn chế được tác hại.

"Những nơi luật và quy định hiện hành đã áp dụng, chúng phải được thực thi nghiêm ngặt. Những nơi có lỗ hổng, Quốc hội phải hành động để chấm dứt các doanh nghiệp khai thác người dùng trẻ và dễ bị tổn thương bằng các chatbot gây nghiện và lạm dụng", ông nói.

Tác giả: Lê Vy

Nguồn tin: znews.vn