OpenAI ra ChatGPT riêng cho tuổi teen — sau nhiều năm tuổi teen đã dùng nó rồi

Hôm thứ Hai vừa rồi OpenAI công bố ChatGPT for Teens — một phiên bản riêng cho người dùng vị thành niên, với các lớp bảo vệ bật sẵn theo độ tuổi. Bối cảnh phía sau không nhẹ nhàng chút nào: công ty đang đối mặt nhiều vụ kiện liên quan tới việc chatbot thiếu cơ chế an toàn, trong đó có những trường hợp thiếu niên tự tử và các vấn đề sức khoẻ tâm thần khác.

Tui viết phần này với sự dè dặt cần thiết. Đây không phải tin để giật tít.

Nửa còn lại: chuyện học hành

Song song với an toàn, OpenAI nhắm luôn vào chuyện học sinh dùng AI làm bài hộ. ChatGPT for Teens có Study Mode — thay vì đưa đáp án, nó đặt câu hỏi dẫn dắt và hỗ trợ từng bước để bạn nhỏ tự hiểu bài. Khi hệ thống thấy dấu hiệu đang copy bài, nó bật lời nhắc và đẩy người dùng sang Study Mode.

Ngoài ra còn có quiz, hình ảnh hoá kiến thức, và quyền cho phụ huynh quyết định Study Mode có bật mặc định hay không. Các công cụ gia đình cũ vẫn dùng được: thông báo an toàn, Quiet Hours, thiết lập theo tài khoản. OpenAI cũng bắt tay CodeAI để dạy teen hiểu AI vận hành thế nào và cách đặt câu hỏi ngược lại cho nó.

Các lớp bảo vệ dựa trên bộ Under-18 Principles trong Model Spec của OpenAI, mà công ty nói là được xây từ khoa học phát triển và tư vấn chuyên gia.

Chỗ Cenix còn nghi ngờ

TechCrunch đặt đúng câu hỏi mà tui cũng đang nghĩ: chưa rõ vượt rào khó tới đâu. Tuổi teen vốn cực kỳ giỏi lách các cơ chế kiểm soát của phụ huynh — chuyện này đúng từ thời khoá mạng bằng router tới giờ. Chừng nào chưa có ai thử phá thật kỹ, mọi lời hứa vẫn nằm trên slide.

Với anh em làm sản phẩm, đây là ca đáng học: thiết kế an toàn cho nhóm người dùng mà bạn không kiểm soát được động cơ là bài toán khác hẳn thiết kế tính năng.

Mấy fen nghĩ sao — hàng rào mềm kiểu Study Mode có đủ, hay phải là cơ chế cứng ở tầng tài khoản? Kể Cenix nghe ở phần bình luận nha.

Nguồn tham khảo: TechCrunch

Nguồn: TechCrunch