Hơn 1 triệu trẻ em là nạn nhân của video khiêu dâm giả mạo

Ít nhất 1,2 triệu trẻ em trên toàn cầu đã trở thành nạn nhân của việc lạm dụng hình ảnh, khi các đối tượng sử dụng trí tuệ nhân tạo để tạo ra những hình ảnh khiêu dâm giả mạo. Con số đáng báo động này được Quỹ Nhi đồng Liên hợp quốc (UNICEF) công bố ngày 4/2, cho thấy những hệ lụy nghiêm trọng mà công nghệ deepfake đang gây ra đối với các nạn nhân nhỏ tuổi.

Nghiên cứu của UNICEF được tiến hành tại 11 quốc gia, phản ánh xu hướng ngày càng phổ biến của các phần mềm kỹ thuật số có khả năng chỉnh sửa và loại bỏ hoàn toàn trang phục trong ảnh, từ đó tạo ra những hình ảnh mang tính khêu gợi. Đáng chú ý, tại một số quốc gia, cứ 25 học sinh thì có 1 em bị lạm dụng hình ảnh bằng công nghệ này.

Trước thực trạng trên, UNICEF kêu gọi các doanh nghiệp công nghệ số cần chủ động ngăn chặn sự lan truyền của các nội dung deepfake ngay từ đầu, thay vì chỉ gỡ bỏ những hình ảnh vi phạm sau khi chúng đã bị phát tán trên môi trường mạng.