Mới đây, hình ảnh của cô gái bán hàng bình thường bị lợi dụng qua công nghệ AI biến thành một cô gái khuyết tật bán hàng trực tuyến. Câu chuyện thương tâm khiến nhiều người mong muốn đặt hàng để ủng hộ. Nhưng khi nhiều người phát hiện đó là lừa đảo, họ đã phải thất vọng. Không những thế, AI còn được sử dụng để tạo ra những video với nội dung phản cảm, như một cô gái nhảy múa trong các đám tang. Hàng chục video có nội dung như vậy được đăng tải liên tục và có lượt xem cao, có video lên tới hàng triệu lượt xem, bất chấp các quy chuẩn đạo đức, miễn là tạo ra những nội dung có tương tác cao.
Trào lưu tạo ảnh, tạo video bằng AI bùng nổ từ đầu năm 2025. Sự ra đời của các công cụ tạo video khiến cho xu hướng này càng bùng nổ trên không gian mạng. Các clip không chỉ dừng lại ở việc làm cho vui mà ngay trong chính lĩnh vực sáng tạo nội dung số chuyên nghiệp, AI cũng được ứng dụng ngày càng nhiều.
Giống như người thật nhưng lại sẵn sàng làm theo những nội dung mà người thật ít ai dám làm như biến người lành lặn thành người khuyết tật hay ăn mặc hớ hênh, nhảy múa trong đám tang. Theo những người đã lâu năm làm sáng tạo nội dung, ranh giới đạo đức chính là điểm khác biệt giữa nội dung AI và nội dung do con người sáng tạo.
Thông tin giật gân, độc lạ luôn lan truyền nhanh hơn. Khi AI tăng tính chân thực, tốc độ lan truyền càng mạnh, tạo nên một cơn lốc cảm xúc khó cưỡng, thách thức lớn nhất hiện nay đó là tính xác thực và đạo đức thông tin. Khi công nghệ AI tạo sinh phát triển, ranh giới thật giả trở nên mờ nhạt. Theo nhiều chuyên gia, cần có những quy chuẩn về dán nhãn nội dung AI cũng như là các quy tắc đạo đức cho việc sử dụng AI.
Thực tế, có thể thấy người khuyết tật, phụ nữ là những đối tượng chịu ảnh hưởng và bị tổn thương bởi các nội dung xấu độc do AI và công nghệ tạo ra. Tại lễ ký kết Công ước Hà Nội mới đây, lần đầu tiên trong một Công ước của Liên hợp quốc có điều khoản cụ thể để bảo vệ những nạn nhân là trẻ em và nhóm người yếu thế. Đây được xem là bước tiến trong việc hỗ trợ bảo vệ người yếu thế trên không gian mạng.
Tại kỳ họp thứ 9 vừa qua, Quốc hội khóa XV đã thông qua Luật Công nghiệp Công nghệ số, trong đó có một chương riêng quy định về trí tuệ nhân tạo. Theo đó, sản phẩm công nghệ số thuộc danh mục sản phẩm công nghệ số tạo ra bởi trí tuệ nhân tạo phải có dấu hiệu nhận dạng để người sử dụng hoặc là máy nhận biết. Điều đó có nghĩa là những nội dung có AI tạo ra phải được dán nhãn. Thế nhưng, điều quan trọng vẫn là nâng cao ý thức và đạo đức của người sáng tạo nội dung số. Bởi rõ ràng khi công nghệ và AI phát triển không giới hạn thì giới hạn cho những nội dung nằm ở đạo đức của chính những người sử dụng AI. Cảm xúc, lương tâm là điều tạo nên sự khác biệt giữa AI và con người.
Bình luận (0)