Trang mạng The Conversation (Australia) gần đây đã có bài phân tích cảnh báo về việc tội phạm lợi dụng các công cụ AI để tạo ra hình ảnh và video với nội dung lạm dụng tình dục trẻ em.
Năm 2023, Quỹ giám sát Internet Watch Foundation (Anh) công bố số liệu thống kê đáng báo động rằng chỉ trong vòng 1 tháng, một trang web đen đã lưu trữ 20.254 hình ảnh do AI tạo ra, trong đó 11.108 hình ảnh khả năng cao là hình ảnh tội phạm. Chính phủ Anh cũng đã xác định được 2.562 hình ảnh thuộc diện tài liệu khai thác tình dục trẻ em; 416 hình ảnh khác là hình ảnh bị cấm theo luật hình sự.
Tương tự như vậy, Trung tâm Chống bóc lột trẻ em của Australia cũng đã nhận được hơn 49.500 báo cáo về tài liệu lạm dụng tình dục trẻ em trong tài khóa 2023–2024, tăng khoảng 9.300 lượt so với năm trước. Khoảng 90% tài liệu Deepfake trực tuyến được cho là có nội dung khiêu dâm. Những số liệu trên phản ánh công nghệ AI đang bị khai thác ngày càng nhiều để tạo ra các tài liệu lạm dụng tình dục trẻ em khó phân biệt với hình ảnh thật.
Bộ An ninh Nội địa Mỹ cũng đã chỉ ra có nhiều cách khác nhau để tạo ra những tài liệu khiêu dâm trẻ em bằng công nghệ AI như các hình ảnh hoặc video được tạo ra dựa trên hình ảnh thật của trẻ em, hoặc sử dụng công nghệ Deepfake để tạo ra những khuôn mặt, giọng nói trẻ em gắn vào những nội dung phản cảm. Deepfake cho phép sử dụng các kỹ thuật và thuật toán AI để tạo ra những nội dung giả mạo một phần hoặc toàn phần.
Điều đáng lo ngại là các tội phạm còn chia sẻ thông tin về cách sử dụng AI để tạo ra những nội dung này, làm tình hình thêm nghiêm trọng. Bộ An ninh nội địa Mỹ từng phát hiện ra những nội dung hướng dẫn về cách sử dụng AI để tạo ra nội dung lạm dụng tình dục trẻ em trên trang web đen. Trong khi đó, Thorn- một công ty công nghệ an toàn cho trẻ em-cũng đã xác định một loạt cách thức lạm dụng các công cụ AI để tạo ra những loại tài liệu này. Công ty lưu ý rằng việc lạm dụng AI cũng cản trở công tác xác định nạn nhân. Trong khi đó, các phương pháp truyền thống để xác định những nội dung khiêu dâm trẻ em hiện không còn phù hợp, không thể bắt kịp tốc độ của các hành động lạm dụng AI để tạo ra nội dung mới.
Ngày càng nhiều quốc gia quan tâm đến các biện pháp giảm thiểu những nguy cơ này. Vấn đề này đặc biệt đáng chú ý trong đại dịch COVID-19 khi tình trạng lạm dụng các công cụ AI tạo ra nội dung "bẩn" gia tăng đáng kể trong sản xuất và phân phối. Khi công nghệ AI trở nên tiên tiến và dễ tiếp cận hơn, thì vấn đề cũng trở nên tồi tệ hơn.
Các cơ quan chức năng trên thế giới đang xây dựng những chiến lược mới để giải quyết những thách thức này. Một cách tiếp cận đầy hứa hẹn là tận dụng chính công nghệ AI để sàng lọc những nội dung do AI tạo ra. Các thuật toán học máy có thể được đào tạo để phát hiện các bất thường và những hình ảnh do AI sáng tạo ra mà mắt thường khó có thể phát hiện được.
Trong khi đó, các công ty truyền thông xã hội lớn như Google, Meta và Amazon đã thành lập một liên minh để ngăn chặn việc lạm dụng AI tạo ra các nội dung khiêu dâm trẻ em. Bên cạnh đó, sự hợp tác giữa các công ty công nghệ và cơ quan thực thi pháp luật là điều cần thiết trong cuộc chiến chống lại những nội dung xấu độc do AI tạo ra.
* Mời quý độc giả theo dõi các chương trình đã phát sóng của Đài Truyền hình Việt Nam trên TV Online và VTVGo!