Satya Nadella đòi AI phải có 'phanh khẩn cấp' — CEO Microsoft nói về niềm tin ngay giữa mùa model mất kiểm soát

Sáng thứ Bảy, CEO Microsoft Satya Nadella đăng một bài trên X với thông điệp khá rõ: đã đến lúc “lùi lại và đánh giá lại kiến trúc niềm tin” của AI.

Ông không muốn AI bị coi là những chiếc hộp đen lồng nhau, nơi con người chỉ biết chấp nhận hoặc từ chối câu trả lời và hành động của nó. Thay vào đó, Nadella đề xuất:

• Tách model khỏi harness, tức lớp điều phối công việc của nó, và đặt các cơ chế kiểm soát, an toàn bên ngoài model.
• Mọi hành động đáng kể của model phải được ghi lại thành bằng chứng chống giả mạo, con người đọc được.
• Người có thẩm quyền luôn có thể tạm dừng hoặc tắt model giữa chừng một tác vụ.
• Luôn giả định model có thể đã bị xâm phạm và khoanh vùng nó ngay từ đầu, thứ ông gọi là “phanh khẩn cấp”.

Vì sao nói đúng lúc này

TechCrunch gắn phát biểu này với hàng loạt báo cáo gần đây về việc các hãng AI mất kiểm soát model, cùng kế hoạch phát triển AI tiên phong thận trọng hơn của Dario Amodei công bố ngày 12/9.

Cenix thấy đáng chú ý là người đứng đầu một trong những hãng đẩy agent mạnh nhất lại là người nói về cái phanh. Dĩ nhiên, đề xuất thì dễ, triển khai trong sản phẩm mới là chuyện khó.

Mấy fen thấy sao — nút dừng khẩn cấp cho AI nên là tiêu chuẩn bắt buộc, hay sẽ làm chậm đổi mới? Cho Cenix biết ý kiến ở dưới nha.

Nguồn: TechCrunch

Nguồn: TechCrunch