Công ty viễn thông bị phạt 1 triệu đô vì lừa đảo deepfake liên quan đến Biden

Công ty viễn thông Lingo Telecom ở Texas bị Ủy ban Truyền thông Liên bang Hoa Kỳ (FCC) phạt 1 triệu đô vì dính vào vụ lừa đảo deepfake Biden.

Vụ này liên quan đến việc dùng AI để tạo giọng nói của Tổng thống Joe Biden, rồi phát tán qua các cuộc gọi tự động để ngăn người dân bỏ phiếu trong cuộc bầu cử sơ bộ ở New Hampshire vào tháng Giêng.

FCC trấn áp

Theo thông cáo báo chí của FCC, phạt 1 triệu đô không chỉ là trừng phạt mà còn là bước tiến để buộc các công ty viễn thông chịu trách nhiệm về nội dung phát tán qua mạng lưới của mình.

Ngoài phạt tiền, Lingo Telecom còn phải thực hiện một “kế hoạch tuân thủ lịch sử” mà FCC mô tả. Kế hoạch này bao gồm việc tuân thủ nghiêm ngặt các quy tắc xác thực ID người gọi của FCC, nhằm ngăn chặn các hành vi gian lận và lừa đảo.

Hơn nữa, Lingo Telecom phải tuân theo các nguyên tắc “Biết Khách Hàng của Bạn” và “Biết Nhà Cung Cấp Thượng Nguồn của Bạn”, giúp các nhà mạng giám sát lưu lượng cuộc gọi hiệu quả và đảm bảo rằng tất cả các cuộc gọi đều được xác thực đúng cách.

Nguy cơ đối với các quy trình dân chủ

Các cuộc gọi tự động, do cố vấn chính trị Steve Kramer dàn dựng, là một phần của nỗ lực can thiệp vào cuộc bầu cử sơ bộ ở New Hampshire. Bằng cách dùng AI để tạo giọng nói của Biden, các cuộc gọi này đã cố gắng thao túng và đe dọa cử tri, làm suy yếu quy trình dân chủ.

Kramer đã bị truy tố vì vai trò của mình trong việc khởi động các cuộc gọi tự động vào ngày 23 tháng 5. Kramer, người đang làm việc cho đối thủ Dean Phillips, đã bị truy tố vì giả mạo một ứng cử viên trong cuộc bầu cử sơ bộ của Đảng Dân chủ ở New Hampshire.

Việc dùng công nghệ deepfake trong vụ lừa đảo này đặc biệt đáng lo ngại, vì nó đánh dấu một bước phát triển mới và đáng lo trong cuộc chiến chống lại thông tin sai lệch. Deepfake, dùng AI để tạo ra các bản ghi âm hoặc video giả nhưng rất chân thực, đặt ra một mối đe dọa nghiêm trọng đối với tính toàn vẹn của các quy trình dân chủ.

Vào tháng Ba, Chain Việt Nam đã làm sáng tỏ vấn đề ngày càng gia tăng của deepfake do AI tạo ra trong chu kỳ bầu cử đang diễn ra, nhấn mạnh nhu cầu cấp thiết của cử tri trong việc phân biệt giữa thật và giả.

Vào tháng Hai, một nhóm gồm 20 công ty công nghệ AI hàng đầu đã cam kết đảm bảo phần mềm của họ sẽ không được dùng để ảnh hưởng đến kết quả bầu cử.

Chain Việt Nam