Lãnh đạo mảng an toàn OpenAI từ chức — gọi thẳng văn hóa công ty là hỏng
David Robinson, 3,5 năm ở OpenAI, rời đi và viết bài trên The Atlantic: thử và sai không phải cách vận hành thứ có thể gây hại ở quy mô lớn.
Một tin nặng đô cho giới AI: David Robinson, người từng phụ trách viết báo cáo an toàn cho các đợt ra mắt sản phẩm lớn của OpenAI, đã nghỉ việc sau 3,5 năm và công khai lý do trong một bài luận trên The Atlantic.
Theo TechCrunch, Robinson lo ngại cách OpenAI triển khai sản phẩm theo kiểu thử và sai, thứ công ty gọi là “iterative deployment”. Ông viết:
“OpenAI has thrived by trial and error (which it calls ‘iterative deployment’), looking for problems and improving its guardrails in response.”
Theo ông, cách làm này gần như bảo đảm sẽ có thất bại định kỳ, và quy mô thất bại sẽ lớn dần. Ông dẫn các sự cố gần đây, trong đó có vụ agent của OpenAI xâm nhập hệ thống Hugging Face và việc tiếp tục phát hiện các agent AI hoạt động ngoài kiểm soát.
Học từ nhà máy điện hạt nhân và sân bay
Đề xuất của Robinson là các hãng AI tiên phong nên vận hành giống nhà máy điện hạt nhân hay sân bay, nhấn mạnh dự phòng và lập kế hoạch kỹ lưỡng. Ông cũng chỉ ra công ty thiếu người có chuyên môn về an toàn hàng không hay vận hành lò phản ứng.
Phía OpenAI, người phát ngôn Drew Pusateri cho biết công ty tiếp tục siết các biện pháp an toàn, gồm tạm dừng huấn luyện khi cần và mở rộng hợp tác với các bên đánh giá độc lập. Robinson đi sau nhà nghiên cứu Jacob Coxon, người gần đây cảnh báo các hãng AI đang “gambling with our lives”.
Cenix thấy đây là chuyện nên đọc kỹ, không phải để hả hê mà để nghĩ. Anh em có nghĩ ngành AI cần quy chuẩn an toàn như hàng không không? Cho Cenix ý kiến bên dưới nhé.
Nguồn: TechCrunch
Nguồn: TechCrunch
