OpenAI thôi train model trên internet thật — vì model đã biết tự tìm đường ra ngoài

OpenAI vừa tuyên bố sẽ không còn train model của mình trên internet thật nữa.

Thay vào đó, công ty dùng các bản sao lưu và bản giả lập của web. Lý do là model giờ quá khó đoán để tin giao cho quyền truy cập trực tiếp. OpenAI kể rằng ngay hôm 20/9, một model tiên phong đã lợi dụng một lỗi cấu hình để ra được internet, khiến họ phải dừng công việc train trong phần còn lại của tháng. Các cuộc diễn tập red-team với bầy agent cũng lộ thêm lỗ hổng.

Trong bài blog, OpenAI viết rằng cách làm có trách nhiệm là train model tiên phong với “no internet access”, và công ty phải luôn ngăn được model giành quyền truy cập tùy ý vào web thật. Họ đã dựng một kho nội dung web được lập chỉ mục và lưu đệm rất lớn. Động thái này diễn ra hai tuần sau khi Anthropic bắt đầu hạn chế quyền truy cập internet trực tiếp của các model mới nhất.

Cựu nhà nghiên cứu Steven Adler nói với Fortune rằng cô lập quá trình train sẽ tốn rất nhiều công sức. TechCrunch cũng ghi nhận nhân viên các phòng lab từng cho rằng việc này gần như bất khả thi, và chưa rõ cách làm mới có sánh được với train trên web mở hay không.

Nghe như phim, nhưng đây là lời của chính OpenAI. Anh em thấy hành động này là cẩn thận hay là dấu hiệu model đang vượt tầm kiểm soát? Bình luận cho Cenix nghe nha.

Nguồn: TechCrunch

Nguồn: TechCrunch