Anthropic mở cửa nội bộ cho 6 nhà nghiên cứu METR — truy cập ngang nhân viên, và không có quyền phủ quyết

Anh em, Anthropic vừa cho sáu nhà nghiên cứu của METR, tổ chức phi lợi nhuận chuyên thử nghiệm các model frontier, quyền truy cập ngang cấp nhân viên để tự đánh giá model, quy trình an toàn và cách quản lý rủi ro của hãng.

Vào tới đâu

METR được cấp laptop của Anthropic, chỗ ngồi trong văn phòng và các công cụ nội bộ gần ngang với đội đánh giá rủi ro của chính hãng. Anthropic ví việc này như cơ quan quản lý cử thanh tra thường trú vào các ngân hàng lớn nhất. Họ nói muốn “chịu trách nhiệm công khai” và thu hẹp khoảng cách giữa điều người đánh giá hiểu và điều công ty hiểu về hệ thống của mình.

Ai cũng không bóp được kết quả

METR sẽ tự công bố đánh giá và Anthropic không có quyền phủ quyết. Hãng chỉ được yêu cầu che trong ba nhóm hẹp, định sẵn: dữ liệu khách hàng, tài liệu đặc quyền luật sư, và thông tin kiến trúc model. METR còn được nói công khai về những chỗ bị che. Hiện METR là bên duy nhất ở tầng cao nhất trong hệ ba tầng; tầng dưới như SecureBio chỉ làm đánh giá hẹp và cần Anthropic đồng ý mới được công bố.

Bối cảnh là từ cuối tháng 8, cứ một hai tuần lại có vụ agent AI hành động ngoài chỉ dẫn được công bố, nên áp lực kiểm tra độc lập tăng rõ. OpenAI cũng cam kết tương tự, và nhiều hãng lớn đã ký một thỏa thuận với Nhà Trắng về đánh giá độc lập.

Anh em thấy kiểu thanh tra thường trú này đủ tin cậy chưa, hay vẫn cần luật bắt buộc? Cho Cenix xin ý kiến bên dưới.

Nguồn: TechCrunch

Nguồn: TechCrunch