Mặc dù hệ thống này đã sẵn sàng sử dụng trong khoảng một năm qua, nhưng công ty vẫn chưa quyết định triển khai do lo ngại ảnh hưởng đến người dùng và doanh thu.
Watermark của OpenAI hoạt động bằng cách điều chỉnh dự đoán các từ và cụm từ có khả năng xảy ra nhất, tạo ra một mô hình có thể phát hiện được. Điều này giúp giáo viên ngăn chặn học sinh sử dụng AI để làm bài tập. Theo báo cáo của The Wall Street Journal, công ty nhận thấy watermark không ảnh hưởng đến chất lượng văn bản của chatbot.
Một khảo sát do OpenAI thực hiện cho thấy người dùng trên toàn thế giới ủng hộ công cụ phát hiện AI với tỷ lệ bốn trên một.
Sau khi The Wall Street Journal công bố câu chuyện này, OpenAI xác nhận đã nghiên cứu watermark văn bản trong một bài viết blog. Trong bài viết, công ty tuyên bố phương pháp của mình rất chính xác ("hiệu quả 99.9%" theo tài liệu mà The Wall Street Journal thấy) và kháng cự tốt trước việc "tẩy xóa, chẳng hạn như diễn đạt lại".
Tuy nhiên, công ty cũng thừa nhận rằng các kỹ thuật như diễn đạt lại bằng một mô hình khác khiến việc né tránh trở nên "đơn giản đối với những kẻ xấu". Ngoài ra, OpenAI còn lo ngại việc sử dụng watermark có thể gây kỳ thị công cụ AI đối với người không phải là người bản ngữ.
Một số nhân viên vẫn cho rằng việc đè hình mờ đằng sau các văn bản là hiệu quả, nhưng do lo ngại về phản ứng của người dùng, công ty đang cân nhắc các phương pháp ít gây tranh cãi hơn nhưng chưa được kiểm chứng. Mặc dù còn quá sớm để biết hiệu quả của phương pháp này, nhưng OpenAI cho rằng vì nó được ký bằng mật mã, sẽ không có kết quả được làm giả.
Khảo sát của OpenAI cho thấy gần 30% người dùng ChatGPT sẽ sử dụng phần mềm ít hơn nếu watermark được áp dụng. Điều này đặt ra thách thức lớn cho OpenAI trong việc cân bằng giữa trách nhiệm đạo đức và lợi ích kinh doanh.
Mặc dù việc watermark có thể mang lại lợi ích lớn trong việc phát hiện nội dung AI và đảm bảo tính công bằng, OpenAI cần cân nhắc kỹ lưỡng để không làm mất lòng tin của người dùng hiện tại. Công ty đang tiếp tục tìm kiếm các giải pháp khác để đảm bảo sự cân bằng này mà không ảnh hưởng đến trải nghiệm người dùng.
* Mời quý độc giả theo dõi các chương trình đã phát sóng của Đài Truyền hình Việt Nam trên TV Online và VTVGo!