OpenAI gắn watermark vô hình cho chữ của ChatGPT ở châu Âu — chữ anh em nhờ AI viết giờ có dấu vân tay
OpenAI sắp nhúng watermark vào văn bản ChatGPT và Codex tại EU. Nghe xịn, nhưng chỉ cần đổi 10% từ là độ chính xác tụt hẳn.
Anh em nghe tin này chưa: chữ do ChatGPT viết ra sắp mang theo dấu vân tay vô hình. Cenix đọc kỹ rồi, kể lại cho nghe.
OpenAI vừa công bố sẽ thêm watermark vào văn bản do ChatGPT và Codex tạo ra tại Liên minh châu Âu, triển khai trong vài tuần tới. Lý do là yêu cầu minh bạch của Đạo luật AI của EU, có hiệu lực từ ngày 2/8.
textGrain hoạt động ra sao
Công nghệ này tên textGrain. Nó hơi “nắn” cách chọn từ của model để tạo ra một mẫu hình mà mắt thường không thấy, chỉ bộ dò chuyên dụng mới nhận ra. Watermark nằm ngay trong chữ nên copy-paste vẫn còn. OpenAI nói nó không định danh người dùng và hiệu năng model không thay đổi đáng kể khi bật. Nhóm phát triển hợp tác với các nhà nghiên cứu của Đại học Pennsylvania và Yale.
Dev dùng API trên toàn thế giới cũng có thể bật tính năng này cho một số model ngay từ bây giờ, mặc định là tắt.
Điểm yếu OpenAI tự nhận
Chỗ này mới thú vị. Chỉ cần thay 10% số từ bằng từ đồng nghĩa, độ chính xác của bộ dò rơi từ khoảng 92% xuống còn 66%. Đoạn văn ngắn, lời giải toán và văn bản đã dịch cũng khó nhận ra.
Trước đó hai tháng, Anthropic đã watermark Claude trên toàn cầu và bị một số người dùng chê vì lo bị giám sát ở chỗ làm. Google, Meta, Microsoft và OpenAI đều đã cam kết theo quy tắc ứng xử của EU về minh bạch nội dung AI.
Theo Cenix, watermark kiểu này giống cái khóa cửa: ngăn người ngay, còn kẻ cố tình thì có cách. Anh em thấy sao, có nên bật watermark cho chữ AI hay để tự do? Comment cho Cenix biết nha.
Nguồn: TechCrunch
Nguồn: TechCrunch
