Nguy cơ phụ thuộc AI trong an ninh mạng

Trí tuệ nhân tạo (AI) đang giúp các chuyên gia an ninh mạng phân tích lượng dữ liệu lớn hơn với tốc độ nhanh hơn, song việc quá phụ thuộc vào công nghệ này có thể tạo ra một thế hệ chuyên gia biết sử dụng AI nhưng thiếu những kỹ năng nền tảng để kiểm chứng kết quả do máy tạo ra.

Đây là cảnh báo của ông Idan Revivo, Giám đốc Nghiên cứu An ninh tại công ty an ninh mạng Island của Israel, trong cuộc trao đổi với chuyên trang công nghệ Ctech gần đây. Theo ông, AI đang làm thay đổi căn bản cả hoạt động tấn công lẫn phòng thủ trên không gian mạng.

AI cho phép các nhóm nghiên cứu tự động phân tích mã nguồn, điều tra nhiều dấu hiệu bất thường cùng lúc và xây dựng công cụ nhanh hơn. Tuy nhiên, tin tặc cũng có thể sử dụng chính những công nghệ này để tìm kiếm lỗ hổng, tạo biến thể tấn công và đồng thời nhắm tới số lượng mục tiêu lớn hơn nhiều so với trước đây.

Ông Revivo cho rằng trước đây, nguồn lực và thời gian của con người vô hình trung tạo ra giới hạn đối với quy mô tấn công. Sau khi xâm nhập một hệ thống, tin tặc vẫn phải dành thời gian thăm dò mạng, tìm thông tin đăng nhập, di chuyển giữa các hệ thống và lấy cắp dữ liệu. AI và tự động hóa có thể thực hiện nhiều công đoạn này đồng thời, khiến ngay cả những tổ chức nhỏ trước đây ít được tin tặc chú ý cũng có nguy cơ trở thành mục tiêu.

Sự thay đổi này đồng thời đặt ra yêu cầu mới đối với giới nghiên cứu an ninh mạng. Thay vì trực tiếp thực hiện phần lớn quá trình phân tích, chuyên gia trong tương lai có thể chuyển dần thành các “kỹ sư nghiên cứu”, xây dựng hệ thống tự động tiến hành phân tích nhưng vẫn phải có đủ chuyên môn để kiểm tra và phản biện kết quả.

Ông Revivo đặc biệt cảnh báo nguy cơ xuất hiện một thế hệ chuyên gia có khả năng đưa yêu cầu cho mô hình AI nhưng chưa từng học kỹ thuật phân tích ngược phần mềm. Khi AI đưa ra một kết luận sai với mức độ tự tin cao, con người vẫn cần đủ kiến thức để trực tiếp kiểm tra mã nguồn và phát hiện sai sót. Theo ông Revivo, AI đã khiến việc “tạo ra một câu trả lời trở nên rẻ nhưng để tin tưởng câu trả lời đó lại trở nên đắt đỏ”.

Một ví dụ được nhóm nghiên cứu Island phát hiện là tiện ích trình duyệt Adblock for YouTube, từng có hơn 11 triệu lượt cài đặt và tồn tại trên kho ứng dụng từ năm 2014. Nhóm nghiên cứu phát hiện tiện ích này yêu cầu quyền truy cập tất cả trang web và tồn tại cơ chế cho phép máy chủ bên ngoài cung cấp mã có thể chạy bên trong các trang mà người dùng đang đăng nhập. Dù chưa phát hiện cơ chế này được sử dụng để tấn công người dùng, trường hợp trên cho thấy uy tín và lịch sử tồn tại lâu năm của một phần mềm không đồng nghĩa với việc nó hoàn toàn an toàn.

Theo chuyên gia Israel, trong bối cảnh các máy chủ MCP, kỹ năng dành cho tác nhân AI và plugin được triển khai với tốc độ nhanh, rủi ro từ chuỗi cung ứng AI cũng ngày càng đáng chú ý. Thách thức đối với ngành an ninh mạng vì vậy không chỉ là sử dụng AI nhanh hơn đối phương, mà còn phải duy trì năng lực chuyên môn của con người để xác định khi nào AI đúng và khi nào cần nghi ngờ kết quả do máy tạo ra.