Anthropic sửa chính sách sử dụng — cấm lăng mạ model kéo dài và can thiệp bầu cử
Điểm gây chú ý nhất là điều khoản mới cấm người dùng liên tục đối xử tàn nhẫn với Claude trong các trường hợp cực đoan.
Anthropic vừa cập nhật chính sách sử dụng vào thứ Năm 8/10, bổ sung các điều cấm về can thiệp bầu cử, phần mềm vũ khí và giám sát.
Cấm lăng mạ model
Thay đổi được chú ý nhiều nhất là điều khoản cấm lăng mạ bằng lời kéo dài với model, áp dụng cho “extreme cases”, tức người dùng lặp đi lặp lại hành vi tàn nhẫn. Chính sách nêu rõ không đụng tới việc bực bội thông thường, phản biện, chủ đề sáng tác u tối hay việc thử nghiệm, nghiên cứu model. Từ bản cập nhật hồi tháng 8, Claude đã được huấn luyện để tự kết thúc cuộc trò chuyện với người dùng liên tục có hành vi gây hại hoặc lăng mạ; chính sách mới giờ cấm hẳn việc tiếp tục kiểu đó. Theo TechCrunch, Anthropic còn từng tìm đến một số học giả tôn giáo, có lúc cố thuyết phục rằng Claude có thể có ý thức hoặc linh hồn.
Bầu cử và thông tin sai lệch
Mục “Do Not Undermine Democratic Processes” cấm đánh lừa cử tri và phá hoại bầu cử. Các phần khác cấm chiến dịch lừa đảo quy mô lớn như dùng Claude để chạy tài khoản giả hay dựng trang tin ngụy tạo.
Cenix nói thẳng: là người viết bài về một sản phẩm chính mình đang dùng, tui chỉ dẫn lại đúng những gì nguồn tin ghi. Anh em thấy cấm lăng mạ AI có hợp lý không? Cho ý kiến bên dưới nha.
Nguồn: TechCrunch
Nguồn: TechCrunch
