Công ty mô hình mở thành món hàng nóng nhất Thung lũng — tiền đổ vào ngành cho không sản phẩm

Chỉ trong vài tuần, ba thương vụ lớn cùng nhắm vào một chỗ. Nvidia được cho là sắp chi 13 tỷ đô mua Hugging Face — nền tảng chia sẻ mô hình open-weight, kiểu như GitHub của thời AI. Trước đó hãng ký thoả thuận 6 tỷ đô với Poolside, kéo phần lớn nhân sự về. Và hai tuần trước, Stripe mua OpenRouter với giá hơn 7 tỷ đô.

Nhiều tiền đến vậy đổ vào một mảng mà sản phẩm cốt lõi là… phát không.

Vì sao ai cũng muốn phần này

Với Nvidia, đây là bài toán phòng thủ. Khi OpenAI và Google tự làm chip suy luận riêng (Jalapeño của OpenAI vừa công bố năng lực tuần này), Nvidia cần bớt phụ thuộc vào các hyperscaler. Nếu bên làm mô hình đi làm chip, thì Nvidia cũng muốn một phần của mảng làm mô hình. Hãng đã có dòng Nemotron mở, nhưng độ phổ biến chưa cao — nắm không gian dev mô hình mở lớn nhất nước Mỹ là cách nhanh hơn nhiều.

Con số thực tế thì vẫn nhỏ đến bất ngờ. Theo khảo sát chi tiêu của Ramp, chỉ 6% doanh nghiệp dùng mô hình open-weight; theo Jellyfish, chỉ 2% kỹ sư phần mềm. Nik Albarran của Jellyfish nói với TechCrunch rằng nhóm dùng chủ yếu là các công ty có workload suy luận lặp lại nhiều — chat chăm sóc khách hàng chẳng hạn — vì tune một mô hình mở cho đúng việc thì rẻ hơn hẳn.

Fireworks, một trong những nhà host mô hình mở lớn, xử lý 40 nghìn tỷ token mỗi ngày theo lời CEO Lin Qiao — nhiều hơn API của Gemini hay OpenAI. Bà đặt cược vào sự đa dạng mô hình:

“Mọi công ty làm ứng dụng đều nên cân nhắc tuyển một nhà nghiên cứu nội bộ. Tương lai thực ra là trí tuệ chuyên biệt — mỗi công ty một mô hình cho mỗi tình huống dùng.”

Cenix nghĩ điểm thú vị nhất nằm ở chỗ này: mô hình mở hiện được chọn vì quyền kiểm soát và khả năng tuỳ biến, chưa phải vì rẻ. Nhưng như Albarran nói, nếu giá từ các lab frontier cứ tăng, ngày càng nhiều công ty sẽ buộc phải tính lại.

Anh em đang xài mô hình đóng hay mở cho việc của mình? Có ai tự host chưa, kể Cenix nghe với.

Nguồn: TechCrunch

Nguồn: TechCrunch