Học sinh tổn thương vì ảnh giả từ AI lan trong trường học

Một vụ việc liên quan đến việc sử dụng công nghệ trí tuệ nhân tạo (AI) để tạo dựng hình ảnh nhạy cảm giả mạo trong môi trường học đường vừa xảy ra, đặt ra nhiều lo ngại về nhận thức và kỹ năng sử dụng công nghệ của học sinh hiện nay.

Theo thông tin từ cơ quan chức năng, sự việc bắt đầu khi em Đ.D (học sinh lớp 8) trong quá trình sử dụng điện thoại cá nhân đã dùng phần mềm AI để tạo ra 2 hình ảnh nhạy cảm từ ảnh của bạn nữ cùng lớp là T.L.Đ. Sau đó, những hình ảnh này được gửi cho bạn bè, gây hiểu nhầm đây là hình ảnh thật của nạn nhân.

Do có mâu thuẫn cá nhân trước đó, em T.K.C (cùng lớp) tiếp tục sử dụng tài khoản Facebook Messenger để phát tán các hình ảnh này đến nhiều học sinh khác. Chỉ trong thời gian ngắn, thông tin sai sự thật đã lan truyền nhanh chóng trong môi trường học đường, gây ảnh hưởng nghiêm trọng đến danh dự, tâm lý của em T.L.Đ.

Ngay sau khi nắm bắt tình hình, Công an xã Tân Hưng đã khẩn trương vào cuộc, phối hợp với nhà trường và gia đình mời các học sinh liên quan đến làm việc, đồng thời kịp thời ngăn chặn việc tiếp tục phát tán hình ảnh. Lực lượng chức năng cũng trực tiếp động viên, hỗ trợ tâm lý cho em T.L.Đ, giúp em ổn định tinh thần trước sự việc.

Đến nay, tinh thần của em T.L.Đ đã dần ổn định và phối hợp với cơ quan chức năng để cung cấp thông tin phục vụ quá trình xác minh. Các học sinh liên quan đã nhận thức được hành vi sai phạm, gửi lời xin lỗi, chủ động thu hồi, xóa toàn bộ nội dung vi phạm và cam kết không tái diễn. Gia đình nạn nhân cũng đã chấp nhận lời xin lỗi và đề nghị tiếp tục giáo dục, nhắc nhở các em.

Theo đánh giá, dù vụ việc đã được xử lý kịp thời và không để lan rộng, song đây là hồi chuông cảnh báo về nguy cơ lạm dụng công nghệ AI trong giới trẻ. Việc tạo dựng, chỉnh sửa hình ảnh nhạy cảm và phát tán thông tin sai sự thật không chỉ gây tổn hại nghiêm trọng đến danh dự, nhân phẩm người khác mà còn có thể bị xử lý theo quy định pháp luật.

Các chuyên gia cho rằng, trong bối cảnh công nghệ AI ngày càng phổ biến, việc học sinh dễ dàng tiếp cận nhưng thiếu kỹ năng kiểm soát và nhận thức đúng đắn có thể dẫn đến những hành vi lệch chuẩn. Đặc biệt, các hành vi "cắt ghép", "giả mạo hình ảnh" trên không gian mạng có thể gây hậu quả lâu dài về tâm lý đối với nạn nhân.

Qua vụ việc, cơ quan Công an khuyến cáo gia đình và nhà trường cần tăng cường quản lý, giám sát việc sử dụng điện thoại, mạng xã hội của học sinh; đồng thời giáo dục kỹ năng sử dụng Internet an toàn, lành mạnh. Các em cần nhận thức rõ rằng việc tạo dựng, chia sẻ thông tin sai sự thật, nhất là hình ảnh nhạy cảm, là hành vi vi phạm pháp luật.

Bên cạnh đó, tuyệt đối không sử dụng các phần mềm AI và công nghệ số vào mục đích xấu; không phát tán nội dung chưa được kiểm chứng. Khi phát hiện các nội dung độc hại, cần kịp thời báo cho gia đình, nhà trường hoặc cơ quan chức năng để xử lý.

Trong thời gian tới, lực lượng Công an cơ sở sẽ tiếp tục phối hợp chặt chẽ với nhà trường và gia đình đẩy mạnh tuyên truyền, nâng cao nhận thức pháp luật và kỹ năng số cho học sinh, góp phần xây dựng môi trường học đường an toàn, lành mạnh trong thời đại công nghệ số.