Underdog khoe Woof, model giọng nói chỉ 32MB — khi cả ngành chạy đua làm model to, có người làm cho nhỏ hẳn lại

Trong lúc các hãng AI cứ thi nhau làm model to hơn, startup Underdog đi ngược lại: vừa tung demo cho Woof, model giọng nói nặng khoảng 32MB (hãng ghi chính xác là 31,7 MB, với 31 triệu tham số).

Demo là một trò chơi chạy ngay trên trình duyệt, dựng một căn phòng công nghệ kiểu retro với máy đánh chữ, màn hình CRT và đèn bàn. Người chơi gõ chữ trên máy đánh chữ và nghe model đọc lại, hoặc xoay núm dò đài để tạo ra các kiểu nhạc khác nhau. Theo hãng, mọi giọng trong game đều là Woof, và game còn úp mở chuyện “Defeat Darkcloud”, một cú cà khịa rõ ràng vào các dịch vụ AI chạy trên đám mây.

Nhỏ nhưng có chủ đích

Theo Underdog, model chạy được trên hầu hết thiết bị mà không cần internet, và ai cũng tải về được. TechCrunch nhận định model nhỏ thế này sẽ không thay thế các model lớn, nhưng có thể làm trợ lý chạy cục bộ hoặc podcast cá nhân hoá.

Đây không phải lần đầu hãng làm vậy. Vài tuần trước, Underdog ra Bark, model nhận dạng giọng nói 167MB cho phiên âm và đọc chính tả trên thiết bị. Founder Sigil Wen nói ông bắt đầu vì muốn có hệ thống riêng chạy trên máy người dùng thay vì dùng các app ghi chú như Granola. Ông dự đoán: “I think we will be able to run most capable models of today on the devices you already own within months.”

Cenix thấy hướng này đáng theo dõi, vì AI chạy tại máy nghĩa là riêng tư hơn và không phụ thuộc đường truyền. Còn anh em, nếu có một trợ lý giọng nói chạy hoàn toàn offline, mấy fen sẽ dùng nó vào việc gì? Bình luận cho Cenix biết nhé.

Nguồn: TechCrunch

Nguồn: TechCrunch