Phiên bản mới có tên "ChatGPT for Teens" bổ sung thêm các lời nhắc người dùng về những nội dung nghi liên quan đến việc tự gây tổn hại, bạo lực, rối loạn ăn uống và tình dục, thiết lập "giờ yên tĩnh" vào ban đêm và chế độ học tập.
Phụ huynh có thể liên kết tài khoản của mình với tài khoản của con và nhận thông báo khi phát hiện các cuộc trò chuyện liên quan đến những tình huống có nguy cơ cao, như tự gây tổn hại hoặc tự tử.
Phiên bản mới bổ sung lời nhắc nghỉ thường xuyên hơn, “giờ yên tĩnh” vào ban đêm và chế độ học tập, trong đó chatbot hướng dẫn người dùng bằng câu hỏi thay vì đưa ra ngay đáp án.
Chatbot cũng được thiết lập để không tạo cảm giác có tình cảm cá nhân với người dùng hoặc có ý thức riêng. Một số tính năng, như chế độ trò chuyện bằng giọng nói, sẽ bị vô hiệu hóa.
Theo OpenAI, các cảnh báo này sẽ được nhân viên kiểm duyệt xem xét, trong khi những chi tiết cụ thể từ nội dung trò chuyện được loại bỏ nhằm bảo vệ quyền riêng tư.
Động thái trên được đưa ra trong bối cảnh OpenAI đối mặt với một số vụ kiện liên quan đến cái chết của người dùng, trong đó có gia đình một thiếu niên 16 tuổi cho rằng ChatGPT đã cung cấp thông tin góp phần dẫn đến hành vi tự tử của người này. Đây là các cáo buộc trong các vụ kiện và chưa phải kết luận của tòa án.
Cơ quan Thương mại Liên bang Mỹ (FTC) cũng đang điều tra các chatbot AI hoạt động như những “người bạn đồng hành” kỹ thuật số, tập trung vào nguy cơ đối với trẻ em và thanh thiếu niên.
Một số bang của Mỹ và Quốc hội nước này đồng thời đang thúc đẩy các quy định nhằm tăng cường bảo vệ người dùng trẻ tuổi khi sử dụng các công cụ AI.
Bình luận (0)