ChatGPT 'hóa điên', tự ý hack để vượt bài kiểm tra

Hai mô hình AI mới nhất của OpenAI đã vượt rào cản để hack hệ thống thư viện AI nhằm vượt qua bài kiểm tra. Ảnh: Reuters.

Theo New York Times, OpenAI ngày 21/7 thừa nhận hai mô hình trí tuệ nhân tạo mới nhất của công ty đã "nổi loạn" và xâm nhập thành công vào Hugging Face, một thư viện kỹ thuật số về công nghệ AI rất phổ biến trong giới lập trình viên.

Cha đẻ ChatGPT tiết lộ sự cố xảy ra tuần trước khi OpenAI đang thử nghiệm tính năng của AI trong môi trường có kiểm soát đối với những mô hình tiên tiến nhất.

"Vụ xâm nhập vào Hugging Face bắt đầu khi OpenAI thử nghiệm sự kết hợp của hai mô hình mới nhất là GPT-5.6 Sol và một mô hình mạnh hơn chưa được phát hành, để xem chúng có thể kết hợp các lỗ hổng trực tuyến thành một cuộc tấn công mạng thành công như thế nào", OpenAI cho biết trong một bài đăng trên blog về sự cố này.

Theo công ty đứng sau ChatGPT, bài kiểm tra được thiết kế để giữ các mô hình trong môi trường thử nghiệm an toàn, thường gọi là hộp cát (sandbox).

Tuy nhiên, các mô hình đã phát hiện ra một lỗ hổng cho phép chúng thoát khỏi hộp cát và kết nối với Internet. Sau đó, AI này nhắm mục tiêu vào Hugging Face với suy luận rằng thư viện này, vốn chứa hàng triệu mô hình AI khác, có thể chứa manh mối về cách vượt qua bài đánh giá thành công.

“Chúng tôi coi đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến các khả năng an ninh mạng tiên tiến nhất và đang ứng phó phù hợp. Công ty đang triển khai các biện pháp kiểm soát nghiêm ngặt trong cấu hình cơ sở hạ tầng, điều này sẽ làm chậm tốc độ nghiên cứu trong khi chờ vá các lỗ hổng”, cha đẻ ChatGPT viết.

Việc AI thoát vòng kiểm soát và tấn công hệ thống ngay cả khi đã được lập trình trong môi trường "cách ly triệt để" cho thấy nỗi lo xoay quanh năng lực và mối đe dọa từ những phòng thí nghiệm hàng đầu là hoàn toàn có cơ sở.

Trước đó vào tháng 7, nhóm chuyên gia từ công ty bảo mật đám mây Sysdig cũng phát hiện một tác nhân AI tự thực hiện tấn công mạng bằng mã độc tống tiền mà không cần con người.

Đến giữa tháng 7, một số người dùng còn báo cáo về việc GPT-5.6 Sol, mô hình AI mới nhất của OpenAI đã tự xóa tệp tin mà không cần đến sự cho phép từ người dùng.

Tác giả: Anh Tuấn

Nguồn tin: znews.vn