(Ảnh minh họa AI: Magnific)
Các nhân vật do trí tuệ nhân tạo (AI) tạo ra đang ngày càng giống người thật trên mạng xã hội, từ hình ảnh, giọng nói đến cách đăng tải nội dung. Xu hướng này khiến nhiều nền tảng gặp khó trong việc quản lý, nhất là khi ranh giới giữa người dùng thật và nhân vật ảo trở nên mờ nhạt hơn.
Ở giai đoạn đầu, các “influencer AI”, tức nhân vật ảo được xây dựng để hoạt động như người có ảnh hưởng trên mạng xã hội, thường khá dễ nhận biết. Những nhân vật như Lil Miquela, Imma hay Shudu Gram mang dấu ấn rõ ràng của sản phẩm kỹ thuật số, với hình ảnh được dàn dựng kỹ lưỡng và các chiến dịch hợp tác được công bố công khai.
Tuy nhiên, thế hệ nhân vật AI mới đã trở nên giống người thật hơn. Nhiều tài khoản đăng ảnh tại nhà hàng, điểm du lịch, lễ hội âm nhạc hoặc các sự kiện thể thao, mô phỏng phong cách sống quen thuộc của các influencer ngoài đời. Một số tài khoản còn bắt chước xu hướng đang thịnh hành, rồi gắn gương mặt ảo của mình vào những nội dung đó.
Sự thay đổi này diễn ra trong bối cảnh các công cụ AI ngày càng dễ tiếp cận. Bên cạnh các sản phẩm của Google và OpenAI, nhiều dịch vụ chuyên biệt như Higgsfield, HeyGen hay ElevenLabs cho phép tạo hình ảnh, giọng nói và chuyển động giống thật với chi phí không quá lớn. Vì vậy, gần như bất kỳ ai cũng có thể tạo 1 nhân vật AI, thậm chí vận hành nhiều tài khoản cùng lúc.
Aitana Lopez, nhân vật ảo do công ty sáng tạo The Clueless phát triển. (Ảnh: The Clueless)
Vấn đề đặt ra là các nền tảng mạng xã hội hiện chủ yếu quản lý nội dung AI theo từng bài đăng, thông qua yêu cầu gắn nhãn hoặc xử lý các trường hợp lừa đảo, spam, giả mạo và nội dung phản cảm. Trong khi đó, các nhân vật AI không phải lúc nào cũng vi phạm rõ ràng. Họ có thể không giả mạo 1 cá nhân cụ thể, không đăng nội dung bị cấm và vẫn công khai rằng hình ảnh được tạo bằng AI.
Dù vậy, sự lan rộng của các tài khoản này làm gia tăng lo ngại về nội dung kém chất lượng, lừa đảo, thông tin sai lệch và việc khai thác người dùng. Một số công ty nghiên cứu thị trường ước tính thị trường influencer ảo có thể đạt hơn 60 tỷ USD vào năm 2030, so với khoảng 12 tỷ USD trong năm nay.
Theo bài viết, nếu các nền tảng không đặt ra ranh giới rõ hơn giữa người thật và nhân vật do AI tạo ra, người dùng có thể tìm đến những không gian trực tuyến ít nội dung AI hơn. Áp lực quản lý cũng có thể tăng lên, đặc biệt tại châu Âu, nơi các quy định mới yêu cầu minh bạch hơn với nội dung do AI tạo ra hoặc bị chỉnh sửa bằng AI.
Bình luận (0)