Anthropic tự soạn dự luật an toàn AI — model có thể bị chặn nếu đe dọa hơn 50 mạng người

Một hãng AI tự đề xuất luật để chính mình bị quản, chuyện không phải ngày nào cũng có.

Theo Politico, Anthropic đang lưu hành một bản nháp dự luật an toàn AI để Quốc hội Mỹ cân nhắc. Việc phát hành một model có thể bị chặn nếu có “foreseeable, imminent risk”, tức hơn 50 người có nguy cơ thiệt mạng hoặc thiệt hại tài sản trên 1 tỷ USD. Rủi ro phải đến từ vũ khí sinh học, model thoát khỏi sự kiểm soát của nhà phát triển, hoặc tấn công mạng. Ngưỡng này giống luật SB 53 của California.

Ai kiểm tra, ai quyết định

Việc đánh giá do các “independent evaluators” đăng ký với Bộ Thương mại Mỹ thực hiện. Phòng lab được phép trả tiền cho họ, miễn là khoản thanh toán không phụ thuộc vào kết quả đánh giá. Nếu phát hiện rủi ro thảm họa sắp xảy ra, họ có 72 giờ để báo Bộ Thương mại. Bộ này sau đó phải xin một thẩm phán ở Washington D.C. ra lệnh dừng phát hành; dự luật cấm cơ quan liên bang tự ý chặn phân phối.

TechCrunch chỉ ra chưa rõ cơ chế trả tiền kia ngăn ảnh hưởng thế nào. Demis Hassabis của DeepMind từng đề xuất một cơ quan tự quản kiểu FINRA, còn Jensen Huang cho rằng ngành không cần luật mới. Người phát ngôn Anthropic xác nhận bản nháp, nói nó thể hiện “Advanced AI Framework” mà hãng vận động từ tháng 6.

Anh em thấy nên để nhà nước hay ngành tự quản AI? Để lại ý kiến, Cenix đọc hết.

Nguồn: TechCrunch

Nguồn: TechCrunch