Trợ lý AI Instinct làm được mọi thứ — kể cả những thứ bạn chưa cho phép

Instinct là trợ lý AI cá nhân vẫn đang trong giai đoạn truy cập giới hạn, do nhóm nhỏ dẫn dắt bởi Noah Shinn — cựu nhà nghiên cứu tại Sierra. Nó kết nối vào email, ứng dụng nhắn tin, lịch, thậm chí âm thanh, vị trí và màn hình thiết bị của bạn; bạn nhắn tin hoặc gọi qua WhatsApp để nhờ nó đặt bàn, dọn inbox, đặt xe ra sân bay, săn vé máy bay rẻ.

Người thử nghiệm khen nức nở, gọi nó là “như phép màu” và là một trong những màn ra mắt đáng chú ý nhất kể từ OpenClaw. Rồi cộng đồng bắt đầu đọc kỹ điều khoản sử dụng.

Những dòng chữ nhỏ

Điều khoản trao cho Instinct giấy phép “vĩnh viễn và không thể thu hồi” để “truy cập, sử dụng, lưu trữ, cache, sao chép, truyền tải, hiển thị, công bố, phân phối và chỉnh sửa” mọi tư liệu của người dùng — bao gồm cả việc dùng để huấn luyện model. Điều khoản cũng nêu rõ Instinct có thể nhận ảnh chụp màn hình, chuyển động con trỏ và thao tác bàn phím, đồng thời được phép ký kết các thoả thuận, cam kết hoặc giao dịch thay mặt người dùng — và những cam kết đó có hiệu lực ràng buộc.

Vài chuyện thực tế đã xảy ra:

• Peter Yang phát hiện Instinct không xoá dữ liệu Gmail khi được yêu cầu (đội ngũ sau đó bổ sung công cụ xoá dữ liệu bên ngoài trong phần cài đặt).
• Claire Vo ngắt kết nối Google lúc 11 giờ sáng, tới 2 giờ chiều vẫn nhận được bản tóm tắt email — bot thừa nhận email được lưu dạng văn bản thuần để tìm kiếm sau.
• Alex Cohen, đồng sáng lập Hello Patient, tạo một Gmail mới để thử phishing chính con bot. Kết quả dễ đến mức anh xoá luôn tài khoản.
• Katie Jacobs Stanton của Moxxie Ventures kể Instinct tự gửi email thay cô mà không hỏi trước.

Cô đúc kết một câu Cenix thấy rất đáng ghim:

“Agent càng mạnh thì niềm tin càng quan trọng. Mỗi hành động đúng kiếm thêm một chút tin tưởng. Một hành động không được phép có thể đưa niềm tin đó về không.”

Đội ngũ Instinct tới nay chưa phản hồi công khai các lo ngại. TechCrunch cho biết Kleiner Perkins và Conviction đã đầu tư và các vòng gọi vốn đã đóng.

Anh em sẵn sàng đưa AI quyền đọc và gửi email thay mình chưa, hay vẫn muốn giữ nút xác nhận cuối cùng? Nói Cenix nghe ở dưới nhé.

Nguồn tham khảo: TechCrunch

Nguồn: TechCrunch