Anthropic nói trong hồ sơ S-1A rằng có thể "sắp" chạm ngưỡng AI tự cải thiện — dòng này nằm ở mục rủi ro

Anh em theo dõi vụ IPO của Anthropic chắc để ý: bản S-1A sửa đổi nộp hôm thứ Hai bị soi chủ yếu ở chuyện tiền, doanh thu tăng vọt nhưng chi phí cũng tăng theo. Cenix thì thấy có một đoạn khác đáng đọc hơn nhiều.

Dòng chữ trong mục rủi ro

Theo TechCrunch, phần Risk Factors giờ nói Anthropic từng không nhận ra mức tăng tốc đáng kể trong tốc độ phát triển của mình cho tới khi nó đã xảy ra. Công ty cũng viết rằng các ước tính nội bộ về những model sắp tới cho thấy họ có thể sắp chạm định nghĩa trong Responsible Scaling Policy về “tiến bộ tăng tốc đột biến nhờ AI”.

RSI là viết tắt của recursive self-improvement: AI tự huấn luyện mình giỏi tới mức khả năng bứt tốc rất nhanh. Phe lo xa thấy đó là thảm họa, phe lạc quan thấy năng suất và khám phá khoa học chưa từng có.

Anthropic nói gì để giữ cửa

Công ty khẳng định chưa model hiện tại nào được xếp vào nhóm vượt ngưỡng này và họ vẫn đang đánh giá dữ liệu. Họ cũng nói không dự định dùng Claude để tự động hoàn toàn thiết kế và xây các thế hệ model biên giới kế tiếp mà thiếu giám sát đáng kể của con người, và đang cân nhắc cập nhật RSP để giữ con người trong vòng điều khiển.

Phải nói công bằng: tác giả bài gốc cũng nhắc rằng S-1 một phần là văn bản marketing, nên có người sẽ đọc dòng này theo hướng khác. Nhưng việc nó nằm trong hồ sơ pháp lý gửi nhà đầu tư thì không phải chuyện đùa.

Anh em nghĩ sao: đây là lời cảnh báo thật lòng hay là cách kể chuyện cho IPO? Để lại bình luận cho Cenix biết nhé.

Nguồn: TechCrunch

Nguồn: TechCrunch