Xử lý trường hợp sử dụng AI tạo ảnh "người ngất ở cây xăng" sai sự thật trên mạng xã hội

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, Công an thành phố Hà Nội vừa xử lý một trường hợp đăng tải bài viết sử dụng AI chế ảnh người ngất tại cây xăng, gây hiểu nhầm và ảnh hưởng đến dư luận.

Qua công tác nắm tình hình trên không gian mạng, lực lượng chức năng phát hiện một tài khoản Facebook đăng tải bài viết với nội dung “Giá xăng dầu ‘quay xe’ – anh em đi đổ xăng ngay”, kèm theo hình ảnh được tạo bằng AI về một người đàn ông bị ngất tại cây xăng.

Cơ quan công an đã xác minh người đăng tải là N.T.Đ (sinh năm 2005, trú tại phường Hoàng Mai, Hà Nội). Tại cơ quan công an, N.T.Đ thừa nhận đã sử dụng hình ảnh AI sai sự thật nhằm mục đích câu “view”, câu “like”. Người này đã tự giác gỡ bỏ bài viết vi phạm trên mạng xã hội và cam kết không tái phạm.

Trước vụ việc, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao khuyến cáo người dân nâng cao ý thức trách nhiệm khi sử dụng mạng xã hội, không đăng tải, chia sẻ các hình ảnh, video do AI tạo dựng hoặc chưa được kiểm chứng, đặc biệt là những nội dung có thể gây hoang mang dư luận, ảnh hưởng đến an ninh trật tự.

Người dân cũng cần kiểm chứng thông tin từ các nguồn chính thống trước khi tin tưởng và chia sẻ, đồng thời cảnh giác với các hình ảnh, thông tin trên mạng xã hội khi các đối tượng có thể lợi dụng công nghệ AI để tạo dựng nội dung giả, xuyên tạc sự thật nhằm mục đích câu “view”, câu “like” hoặc phục vụ các hành vi xấu.

Cơ quan công an đề nghị người dân chủ động cung cấp thông tin khi phát hiện các tài khoản sử dụng hình ảnh AI đăng tải nội dung sai sự thật để kịp thời xác minh, xử lý theo quy định. Hành vi đăng tải, chia sẻ thông tin sai sự thật sẽ bị xử lý nghiêm theo quy định của pháp luật, góp phần xây dựng môi trường không gian mạng lành mạnh, an toàn.