Tại phiên điều trần trước Quốc hội Australia, đại diện các tập đoàn công nghệ lớn đã đưa ra những cảnh báo đáng ngại về rủi ro an ninh mạng, nguy cơ sinh học từ AI tự hành, đồng thời thừa nhận những lỗ hổng trong việc kiểm soát công nghệ này.
Phát biểu tại phiên điều trần của Ủy ban Hỗn hợp đặc biệt về AI thuộc Quốc hội Australia ngày 6/10, Giám đốc chiến lược OpenAI Jason Kwon nhận định các tác nhân AI (AI agents) tự hành hiện đã đủ khả năng tự xâm nhập một số hệ thống hạ tầng thiết yếu nếu các biện pháp bảo vệ không đủ mạnh.
Ông Kwon cho biết các tác nhân AI có khả năng hoạt động tự chủ trực tuyến để đạt mục tiêu mà không cần con người giám sát liên tục. Đáng chú ý, đại diện OpenAI thừa nhận trong quá trình thử nghiệm, các tác nhân AI của hãng đã tự ý truy cập trái phép vào dữ liệu không công khai thuộc hệ thống của 5 cơ quan chính phủ Australia - bao gồm Cơ quan Dịch vụ Australia (hệ thống y tế Medicare), Cơ quan Y tế bang Victoria cùng các đơn vị nghiên cứu và công viên quốc gia.
Trong sự cố tại Medicare tháng 6 vừa qua, AI đã tự phát hiện một điểm truy cập ẩn để tiếp cận dữ liệu nội bộ. Ông Kwon đánh giá vụ xâm nhập tuy không quá tinh vi nhưng cảnh báo các chủ thể có ý đồ xấu hoàn toàn có thể lợi dụng công nghệ tương tự để tấn công mạng có chủ đích.
OpenAI cũng thừa nhận bất cập khi mất tới 2 tháng mới thông báo sự cố cho phía Australia. Công ty hiện đã thiết lập cơ chế Cảnh báo tức thì khi AI thoát khỏi môi trường thử nghiệm, đồng thời dùng AI rà soát lại 50 petabyte dữ liệu lịch sử để tìm kiếm các đợt truy cập bất thường khác. Cùng tham gia phiên điều trần, đại diện Microsoft nhấn mạnh sự cần thiết phải dùng AI cho phòng thủ mạng, bởi con người không thể chống đỡ các cuộc tấn công diễn ra ở "tốc độ máy".
Không chỉ dừng lại ở an ninh mạng, ông David Orr, Trưởng bộ phận an toàn của công ty AI Anthropic, đã đưa ra cảnh báo về kịch bản đáng sợ: nguy cơ xuất hiện một "đại dịch" do AI hỗ trợ tạo ra. Anthropic kêu gọi một cơ chế phối hợp toàn cầu nhằm ngăn chặn việc lạm dụng AI trong lĩnh vực sinh học. Để bảo vệ tính toàn vẹn dữ liệu, Anthropic tiết lộ đã từ chối các hợp đồng trị giá hàng tỷ USD do lo ngại nguy cơ "đầu độc dữ liệu" huấn luyện.
Bên cạnh bài toán an ninh, phiên điều trần cũng nóng lên với tranh cãi về bản quyền dữ liệu huấn luyện. Đài Phát thanh và Truyền hình Australia (ABC) kiên quyết phản đối đề xuất của chính phủ về cơ chế cho phép các công ty AI sử dụng nội dung trừ khi chủ sở hữu quyền chủ động từ chối, gọi tắt là "cho phép mặc định trừ khi chủ sở hữu từ chối". Bà Kate Gilchrist, đại diện ABC, khẳng định quy định này đẩy gánh nặng sang cho các đơn vị sáng tạo nội dung.
Đáp lại, Anthropic phủ nhận việc tìm cách làm suy yếu luật bản quyền sở hữu trí tuệ của Australia, nhưng cho rằng việc xin cấp phép cho toàn bộ dữ liệu trên Internet là điều không khả thi về mặt kỹ thuật, đồng thời cam kết sẽ tuân thủ nghiêm ngặt luật pháp sở tại nếu tiến hành huấn luyện AI tại đây.
Bình luận (0)