Trung Quốc vừa công bố dự thảo quy định mới nhằm tăng cường quản lý các sản phẩm và dịch vụ trí tuệ nhân tạo (AI) hướng tới người tiêu dùng, trong bối cảnh các công nghệ này phát triển nhanh và ngày càng phổ biến trong đời sống xã hội.
Theo dự thảo, các quy định sẽ áp dụng đối với những sản phẩm và dịch vụ AI có khả năng mô phỏng đặc điểm tính cách, tư duy và phong cách giao tiếp của con người, đồng thời tương tác cảm xúc với người dùng thông qua văn bản, hình ảnh, âm thanh, video hoặc các hình thức khác. Các nhà cung cấp dịch vụ được yêu cầu phải cảnh báo người dùng về nguy cơ sử dụng quá mức, cũng như can thiệp kịp thời khi phát hiện dấu hiệu nghiện.
Dự thảo nêu rõ trách nhiệm của các doanh nghiệp trong việc bảo đảm an toàn trong suốt vòng đời sản phẩm AI, bao gồm thiết lập hệ thống đánh giá thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân. Các nhà cung cấp phải chịu trách nhiệm trực tiếp nếu sản phẩm gây ra rủi ro cho người dùng.
(Ảnh minh họa: Freepik)
Đáng chú ý, dự thảo tập trung kiểm soát các rủi ro tâm lý tiềm ẩn. Theo đó, các dịch vụ AI phải có cơ chế xác định trạng thái người dùng, đánh giá cảm xúc và mức độ phụ thuộc. Trường hợp phát hiện người dùng có biểu hiện cảm xúc cực đoan hoặc hành vi nghiện, nhà cung cấp buộc phải triển khai các biện pháp can thiệp phù hợp.
Bên cạnh đó, dự thảo cũng đặt ra các yêu cầu nghiêm ngặt về nội dung, trong đó cấm các dịch vụ AI tạo ra hoặc lan truyền thông tin gây phương hại đến an ninh quốc gia, phát tán tin đồn thất thiệt, hoặc cổ xúy bạo lực và nội dung đồi trụy.
Động thái này được đánh giá là bước đi mới của Trung Quốc nhằm định hình sự phát triển của AI theo hướng kiểm soát chặt chẽ hơn, trong khi vẫn cho phép công nghệ tiếp tục được ứng dụng rộng rãi trong xã hội.
Bình luận (0)