Theo thống kê của Reuter có hàng chục công ty tham gia vào cuộc chiến này trong khi những ông lớn như Facebook hay Google đều khẳng định đều đang làm việc hết sức khẩn trương với các giải pháp riêng. Hiện, các công ty đều dùng trí tuệ nhân tạo vào các ứng dụng nhằm đạt được hiệu quả cao hơn.
"Cũng chỉ vài năm gần đây ngành công nghiệp máy tính mới đủ mạnh và bản thân dữ liệu mới đủ để hệ thống có thể ngăn chặn tự động ngày càng tốt hơn các video bạo lực", Matt Zeiler, nhà sáng lập và CEO của một công ty ở New York mang tên Clarifai.
Các video bạo lực đang khiến Facebook đau đầu
Theo đó, hệ thống sẽ có lớp "lọc" các dấu hiệu của bạo lực như hành động chém giết, vết máu. Nếu phát hiện ra, hệ thống sẽ tự động loại bỏ các video này. Matt Zeiler cũng cho biết, hệ thống hiện nay cũng phát hiện ra những phương tiện gây ra bạo lực như súng hay dao.
Tuy nhiên, dù nỗ lực bao nhiêu, mọi thứ cũng chỉ có giới hạn.
Các chuyên gia nhận định có những trường hợp một hệ thống tự động không thể phát hiện ra. Ví dụ khi một ai đó treo cổ một đứa bé trong một căn phòng. Khi đó, một chương trình dù được ứng dụng những công nghệ mới như trí tuệ nhân tạo cũng "bó tay".
"Khi những hoạt động của con người ngày càng đa dạng khủng khiếp như vậy thì hệ thống cần được "đào tạo", Shanbhag, người sáng lập ra công ty chuyên lọc dữ liệu video và hình ảnh ở châu Á cho biết.
Nhiều video live streaming chứa đựng những nội dung bạo lực
Ngoài ra, một video quay nhanh với nhiều hiệu ứng cũng có thể "qua mặt" được hệ thống. Công ty PicPurify của Pháp cho biết, đang nỗ lực tìm ra những dấu hiệu của các video bạo lực mà không có hình ảnh của máu hay vũ khí. Tuy nhiên, mọi việc rất khó khăn.
"Những tra tấn về tâm lý là một dạng bạo lực rất khó nhận biết", ông Junle Wang, trưởng bộ phận Nghiên cứu và Phát triển của PicPurify cho biết. Các chuyên gia cũng ví dụ tuyên truyền về bạo lực về những video của Tổ chức Nhà nước Hồi giáo tự xưng IS cũng là một hình thức như thế.
Vẫn cần con người
Mặc dù công nghệ ngày càng tiên tiến nhưng các chuyên gia nhấn mạnh con người vẫn phải tham gia vào quá trình kiểm soát nội dung, đặc biệt là các nội dung nhạy cảm.
Ngoài việc phân tích trong hệ thống, ông Junle Wang cũng cho biết, có thể kết hợp với một số dấu hiệu khác như sự gia tăng đột biến của các loại bình luận, người xem hay các loại cảnh báo.