Khi AI được trao quyền tự động phát hiện và xử lý, một câu hỏi khác lại xuất hiện: Nếu AI cảnh báo sai, hoặc tự động cô lập một hệ thống quan trọng, hậu quả sẽ ra sao? Trong bảo vệ hạ tầng trọng yếu, một quyết định sai có thể gây gián đoạn dịch vụ thiết yếu. Tại Singapore, nước này đặt giới hạn thế nào đối với quyền tự động của AI và đâu vẫn là quyết định mà con người phải nắm giữ?
Singapore xác định AI là công cụ hỗ trợ, không thay thế con người trong những quyết định liên quan đến an toàn hạ tầng thông tin trọng yếu.
Tại Tuần lễ An ninh mạng Quốc tế Singapore, Bộ trưởng Thông tin và Phát triển số nhấn mạnh, AI có thể tự động phát hiện nguy cơ, phân tích và ứng phó với các cuộc tấn công mạng. Tuy nhiên, mức độ tự động hóa phải tương xứng với rủi ro.
Đối với những hành động có thể làm gián đoạn dịch vụ thiết yếu như cô lập hệ thống hay ngắt kết nối mạng, con người phải duy trì quyền giám sát và can thiệp khi cần thiết.
Các hệ thống AI cũng phải có giới hạn quyền hạn rõ ràng và cơ chế khắc phục sai sót. Thông điệp của Singapore là: AI có thể tự động xử lý, nhưng trách nhiệm cuối cùng trong bảo vệ hạ tầng trọng yếu vẫn thuộc về con người.
Bình luận (0)