Google DeepMind lập viện riêng để cãi nhau công khai về AGI — và Hassabis đề xuất một cơ quan kiểm định do Mỹ dẫn dắt

Các nhà nghiên cứu của Google và Google DeepMind vừa lập DeepMind Institute hôm thứ Tư, với mục tiêu đẩy cuộc thảo luận về trí tuệ nhân tạo tổng quát ra không gian công khai. Ban giám đốc gồm đồng sáng lập DeepMind Shane Legg, lãnh đạo Google James Manyika và chủ tịch Google DeepMind Demis Hassabis — trong đó Legg giữ vai trò tổng biên tập.

Điều Cenix thấy lạ, theo hướng tích cực, là cách họ tuyên bố ngay từ đầu: các quan điểm “sẽ không phải lúc nào cũng đồng thuận, và nhiều khả năng sẽ thay đổi khi có thêm dữ liệu và thông tin”.

Bốn tiểu luận đầu tiên nói gì

Bộ sưu tập mở màn gồm 4 bài, trải từ chính sách kinh tế ứng phó với xáo trộn do AGI, giữ cho lập luận của model đọc được bằng mắt thường, nguyên tắc cho sự phát triển của con người, đến khung đánh giá model AI tiên phong.

Bài của hai nhà nghiên cứu an toàn Rohin Shah và Anca Dragan lập luận rằng cánh cửa minh bạch của AI — khả năng nhìn và kiểm tra từng bước suy luận — đang hẹp dần, nhưng đó không phải điều tất yếu. Họ đề xuất giới hạn “độ sâu tuần tự mờ đục”, tức lượng tính toán tuần tự mà model được phép thực hiện mà không tạo ra dấu vết suy luận đọc được.

Bài của Hassabis thì táo bạo hơn: lập một cơ quan tiêu chuẩn AI tiên phong do Mỹ dẫn dắt. Ban đầu các nhà phát triển nộp model tự nguyện để thẩm định trong vòng 30 ngày trước khi phát hành. Khi hệ thống chứng minh được hiệu quả, việc vượt qua bài kiểm tra có thể trở thành điều kiện bắt buộc để triển khai model tiên phong tại Mỹ.

Chi tiết đáng chú ý: cơ quan này về sau sẽ tự phát triển các bài kiểm tra độc lập, không công bố — gọi là bài “held-out” — để các lab không thể tối ưu model riêng cho những bài test đã biết. Hassabis nói khung này có thể “siết chặt thêm nếu mức độ nghiêm trọng của tình hình đòi hỏi”, kể cả việc phối hợp giảm tốc giữa các bên.

Tất cả diễn ra khi tranh luận an toàn AI đang chuyển từ những tuyên bố chung chung sang các đề xuất cụ thể về công bố thông tin và giám sát từ bên ngoài.

Anh em tin vào một cơ quan kiểm định độc lập cho AI không, hay thấy chuyện đó cuối cùng vẫn quay về tay chính mấy ông lớn? Thả bình luận nha.

Nguồn: TechCrunch

Nguồn: TechCrunch