Anthropic tham gia cuộc chiến về luật AI ở California

Các nhà lập pháp khắp nước Mỹ đang cố gắng đưa ra các quy định để kiểm soát việc phát triển và triển khai các mô hình trí tuệ nhân tạo (AI) cao cấp.

Nhà phát triển AI Anthropic đã nhảy vào cuộc tranh luận về dự luật do thượng nghị sĩ California Scott Wiener đề xuất, nói rằng “lợi ích của nó có thể vượt trội hơn chi phí.”

Phát triển của SB 1047

Trong một lá thư ngày 21 tháng 8 gửi thống đốc California Gavin Newson, CEO của Anthropic, Dario Amodei cho biết rằng luật này, Dự luật Thượng viện (SB) 1047, đã được “cải thiện đáng kể,” mặc dù vẫn còn một số khía cạnh “đáng lo ngại hoặc mơ hồ.”

“Những lo ngại ban đầu của chúng tôi về việc dự luật có thể cản trở đổi mới do tính chất phát triển nhanh chóng của lĩnh vực này đã giảm đi đáng kể trong phiên bản sửa đổi.” SB 1047 được Wiener giới thiệu vào tháng 2 năm 2024 và tìm cách bắt buộc và tiêu chuẩn hóa việc kiểm tra an toàn cho các mô hình AI tiên tiến nhất, những mô hình hoặc tốn hơn 100 triệu đô la để phát triển hoặc yêu cầu một lượng sức mạnh tính toán nhất định.

Theo dự luật của Wiener, các nhà phát triển phần mềm AI trong tiểu bang California sẽ cần cung cấp các phương pháp để tắt các mô hình trong trường hợp khẩn cấp. Điều này thường được gọi là “công tắc ngắt.”

Các nhà phát triển phần mềm AI hoạt động trong tiểu bang sẽ cần phác thảo các phương pháp để tắt các mô hình AI nếu chúng hoạt động sai, thực chất là một công tắc ngắt. Ngoài ra, dự luật sẽ trao quyền cho tổng chưởng lý tiểu bang để khởi kiện các nhà phát triển nếu họ không tuân thủ luật pháp.

Các công ty công nghệ lên tiếng

Dự luật gần đây đã được Wiener sửa đổi, bao gồm sự ảnh hưởng từ Anthropic và các công ty công nghệ khác, nhằm làm dịu một số phàn nàn từ Big Tech. Một trong những sửa đổi bao gồm việc loại bỏ việc tạo ra một ủy ban giám sát AI do chính phủ lãnh đạo.

Tuy nhiên, Wiener cũng đã lên tiếng về phản đối của ngành đối với dự luật của ông. Vào ngày 22 tháng 8, thượng nghị sĩ đã phản hồi một lá thư do OpenAI gửi cho Thống đốc Newsom phản đối SB 1047.

Wiener gọi những lo ngại của OpenAI là “vô căn cứ,” “mệt mỏi,” và “vô lý.” Ông nói rằng dự luật là cần thiết để bảo vệ an toàn công cộng và an ninh quốc gia và bối rối trước lập trường hiện tại của OpenAI do cam kết trước đó của họ về việc thực hiện các đánh giá an toàn như vậy.

Cùng với OpenAI, Google của Alphabet và Meta cũng đã gửi thư bày tỏ lo ngại đến Wiener. Meta cho rằng dự luật đe dọa làm cho California trở nên ít thân thiện hơn đối với phát triển và triển khai AI.

Chain Việt Nam