Các nhà lập pháp Mỹ yêu cầu OpenAI cung cấp quyền truy cập cho chính phủ

Các Thượng nghị sĩ Đảng Dân chủ và một nhà lập pháp độc lập đã gửi thư đến CEO của OpenAI, Sam Altman, về các tiêu chuẩn an toàn và cách tuyển dụng của công ty đối với những người tố giác.

Có lẽ phần quan trọng nhất của bức thư, được The Washington Post thu thập đầu tiên, là mục 9, trong đó viết: “OpenAI có cam kết làm cho mô hình nền tảng tiếp theo của mình có sẵn cho các cơ quan chính phủ Hoa Kỳ để thử nghiệm, đánh giá, phân tích và đánh giá trước khi triển khai không?”

Bức thư nêu ra 11 điểm bổ sung cần được giải quyết, bao gồm việc đảm bảo cam kết của OpenAI dành 20% sức mạnh tính toán của mình để thúc đẩy nghiên cứu an toàn và các giao thức để ngăn chặn kẻ xấu hoặc đối thủ nước ngoài đánh cắp sản phẩm AI từ OpenAI.

Giám sát quy định

Mặc dù giám sát quy định không phải là điều mới mẻ đối với OpenAI và lĩnh vực trí tuệ nhân tạo bao quát, bức thư từ các nhà lập pháp Đảng Dân chủ được thúc đẩy bởi các báo cáo của người tố giác về tiêu chuẩn an toàn lỏng lẻo của GPT-4 Omni để đảm bảo sản phẩm không bị trì hoãn ra thị trường.

Những người tố giác của OpenAI cũng tuyên bố rằng những nỗ lực đưa ra các mối quan ngại về an toàn với ban quản lý đã gặp phải trả đũa và các thỏa thuận không tiết lộ thông tin bị cáo buộc là bất hợp pháp, khiến những người tố giác phải nộp đơn khiếu nại lên Ủy ban Chứng khoán và Giao dịch vào tháng 6 năm 2024.

Ngay sau đó, vào tháng 7, các gã khổng lồ công nghệ Microsoft và Apple đã từ bỏ tư cách thành viên trong ban giám đốc của OpenAI do sự giám sát quy định gia tăng, quyết định không nhận ghế trong ban giám đốc mặc dù Microsoft đã đầu tư 13 tỷ USD vào OpenAI vào năm 2023.

Nỗi sợ tồn tại vẫn còn

Cựu nhân viên của OpenAI, William Saunders, gần đây tiết lộ rằng anh đã rời công ty vì cảm thấy nghiên cứu đang diễn ra tại OpenAI có thể gây ra mối đe dọa tồn tại đối với nhân loại, so sánh tiềm năng của OpenAI với vụ đắm tàu RMS Titanic nổi tiếng vào năm 1912.

Saunders làm rõ rằng anh không lo ngại về phiên bản hiện tại của mô hình ngôn ngữ lớn ChatGPT của OpenAI mà lo ngại hơn về các phiên bản tương lai của ChatGPT và tiềm năng phát triển trí tuệ siêu nhân tiên tiến.

Người tố giác lập luận rằng các nhân viên làm việc trong lĩnh vực trí tuệ nhân tạo có quyền cảnh báo công chúng về các khả năng nguy hiểm tiềm tàng được thể hiện bởi sự phát triển nhanh chóng của trí tuệ nhân tạo tổng hợp.

Chain Việt Nam