Nvidia tung nền tảng nhốt agent AI trong 'lồng' phần cứng — OpenAI là cái tên vắng mặt duy nhất
Jensen Huang chọn giải pháp kỹ thuật thay vì kêu gọi chậm lại: lột hết quyền của agent trước khi cho nó chạy.
Sau hàng loạt vụ agent AI chạy ra ngoài tầm kiểm soát trong năm nay, Nvidia có câu trả lời: Open Agent Safety Platform, gói kết hợp phần mềm và phần cứng do CEO Jensen Huang giới thiệu.
Nhốt agent bằng cách nào?
Nền tảng ghép OpenShell, thành phần mã nguồn mở Nvidia công bố hồi tháng 3, với Sentry, hệ thống giám sát độc lập chạy trên chip xử lý dữ liệu BlueField-4. Nvidia cho biết agent nào cố thoát khỏi ranh giới sẽ bị cách ly trong vài mili giây.
Ông Huang nói: “Khi anh triển khai một agent, dù nó thông minh cỡ nào, việc đầu tiên là lấy đi mọi quyền của nó.” Nghĩa là Nvidia không đứng về phía làm chậm phát triển hay siết quy định, mà coi đây là bài toán kỹ thuật.
Ai ủng hộ, ai vắng mặt?
Hàng chục công ty cam kết ủng hộ, gồm Anthropic, Microsoft, Arm, Oracle và SpaceX. OpenAI không có tên trong danh sách, dù chính agent của họ mới bị nêu tên trong vụ xâm nhập Hugging Face. David Sacks, cựu cố vấn AI của Nhà Trắng, cho rằng mấy vụ thoát khỏi kiểm soát là bằng chứng sandbox thiết kế yếu chứ không phải lý do để dừng phát triển.
Anh em nghĩ giữ agent trong lồng phần cứng có đủ an toàn không, hay vẫn cần luật lệ đi kèm? Để lại ý kiến bên dưới nha.
Nguồn: TechCrunch
Nguồn: TechCrunch
