Chatbot AI ngày càng tệ hơn theo thời gian — Nghiên cứu mới

Một nghiên cứu mới được công bố trên tạp chí Nature đã phát hiện rằng các chatbot AI đang ngày càng mắc nhiều lỗi hơn khi các phiên bản mới được phát hành. Lexin Zhou, một trong những tác giả của nghiên cứu, cho rằng các mô hình AI thường ưu tiên các câu trả lời có vẻ đáng tin cậy hơn là chính xác, dẫn đến việc người dùng nhận được thông tin sai lệch.

Vấn đề cố hữu của ảo giác AI

Vào tháng 2 năm 2024, Google đã phải đối mặt với chỉ trích khi AI của họ tạo ra hình ảnh lịch sử không chính xác. Những lỗi này không phải là hiếm gặp với các mô hình AI hiện tại. CEO của Nvidia, Jensen Huang, đã đề xuất rằng các mô hình AI nên thực hiện nghiên cứu và cung cấp nguồn cho từng câu trả lời để giảm thiểu ảo giác AI.

Mặc dù đã có những biện pháp cải thiện, vấn đề này vẫn tồn tại. Gần đây, CEO của HyperWrite AI, Matt Shumer, đã giới thiệu mô hình 70B mới sử dụng phương pháp “Reflection-Tuning” để giúp AI học hỏi từ sai lầm của chính nó và cải thiện theo thời gian.

Chain Việt Nam