OpenAI có công cụ phát hiện nội dung AI siêu chuẩn nhưng chưa chịu tung ra

OpenAI đang chần chừ việc ra mắt một công cụ “siêu chuẩn” có khả năng phát hiện nội dung từ ChatGPT vì lo ngại nó có thể bị hack hoặc làm người dùng không nói tiếng Anh ngại dùng AI để viết văn bản.

Công ty đã nói rằng họ đang nghiên cứu nhiều cách để phát hiện nội dung do sản phẩm của mình tạo ra trong một bài đăng blog vào tháng Năm. Ngày 4 tháng 8, Wall Street Journal đã tiết lộ rằng kế hoạch phát hành công cụ này bị hoãn do tranh luận nội bộ về hậu quả của việc phát hành.

Sau báo cáo của WSJ, OpenAI đã cập nhật bài đăng blog tháng Năm với thông tin mới về các công cụ phát hiện. Tóm lại, vẫn chưa có lịch phát hành, dù công ty đã cảnh báo rằng ít nhất một công cụ để xác định nguồn gốc văn bản là “siêu chuẩn và thậm chí hiệu quả chống lại việc can thiệp cục bộ.”

Đáng tiếc, công ty nói rằng vẫn có những cách mà kẻ xấu có thể dùng để qua mặt công cụ này, nên họ chưa muốn tung ra cho công chúng.

Trong một đoạn khác, công ty ngụ ý rằng người dùng không nói tiếng Anh có thể bị “kỳ thị” khi dùng AI để viết vì một lỗ hổng liên quan đến việc dịch văn bản tiếng Anh sang ngôn ngữ khác để tránh bị phát hiện.

“Một rủi ro quan trọng khác mà chúng tôi đang cân nhắc là nghiên cứu của chúng tôi cho thấy phương pháp đánh dấu văn bản có thể ảnh hưởng không cân đối đến một số nhóm. Ví dụ, nó có thể kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không nói tiếng Anh bản ngữ.” Hiện tại có một số sản phẩm và dịch vụ được cho là có khả năng phát hiện nội dung do AI tạo ra, nhưng theo hiểu biết của chúng tôi, không có sản phẩm nào đã chứng minh được độ chính xác cao trong các nhiệm vụ chung trong nghiên cứu được đánh giá ngang hàng.

Công cụ của OpenAI sẽ là hệ thống đầu tiên được phát triển nội bộ dựa trên phương pháp đánh dấu vô hình và các phương pháp phát hiện độc quyền cho nội dung được tạo ra cụ thể bởi các mô hình của công ty.

Chain Việt Nam