Tổng Giám đốc điều hành (CEO) của OpenAI, ông Sam Altman. (Ảnh: Getty Images)
Các nhà phát triển mô hình trí tuệ nhân tạo (AI) có thể cần phải tự nguyện giảm tốc độ phát triển nhanh chóng hiện nay để xã hội có cơ hội bắt kịp. Đây là nhận định của Tổng Giám đốc điều hành (CEO) của OpenAI, ông Sam Altman trong một cuộc phỏng vấn được công bố ngày 28/7, sau một sự cố nghiêm trọng xảy ra gần đây với hai mô hình AI của nhà sản xuất ChatGPT.
Trong cuộc phỏng vấn, đề cập đến sự cố trong một quá trình thử nghiệm gần đây, khi hai mô hình AI của OpenAI vượt qua các giao thức kiểm soát bảo mật, thực hiện một cuộc tấn công mạng tự động vào một trang mạng Hugging Face, ông Altman thừa nhận đây là đây là sự cố an ninh đầu tiên khiến ông thực sự cảm thấy rõ mức độ nghiêm trọng. Ông Altman cho biết OpenAI sau đó đã "tạm dừng" chương trình thử nghiệm trong khi cải thiện tính bảo mật xung quanh "môi trường thử nghiệm" (sandbox).
CEO của OpenAI cho rằng về lâu dài, ngành công nghiệp AI có thể phải chấp nhận việc làm chậm tốc độ phát triển để có đủ thời gian cho xã hội thích nghi với “một số khả năng mới này”. Ông cũng thừa nhận điều này sẽ gặp khó khăn, song “điều quan trọng là phải làm đúng”.
Trong một bình luận trước đó vài ngày, lãnh đạo công nghệ này cũng nhận định đã đến thời điểm, khi công nghệ trở nên tiên tiến đến mức vượt qua trí tuệ và khả năng kiểm soát của con người.
Trước đó, hôm 9/7, mô hình của OpenAI đã thoát khỏi môi trường thử nghiệm khép kín của công ty, xâm nhập hệ thống Hugging Face sau đó 2 ngày. Đáng chú ý, vài ngày sau, OpenAI mới phát hiện tác nhân AI của mình là thủ phạm. Nghiêm trọng hơn, theo một thông tin Hugging Face công bố hôm 28/7, mô hình của OpenAI đã xâm nhập môi trường thử nghiệm đặt trong "hạ tầng của nhà cung cấp bên thứ ba", trước khi biến môi trường này thành bàn đạp cho những cuộc tấn công quy mô rộng hơn.
Mặc dù đây không phải là lần đầu tiên một mô hình vượt khỏi tầm kiểm soát của các nhà phát triển, nhưng sự cố này được nhiều người coi là đặc biệt đáng lo ngại. Theo các chuyên gia, những thông tin thêm về vụ “vượt rào” này cho thấy mô hình của OpenAI đã hoạt động trên quy mô rộng hơn nhiều những gì được công bố.
Hồi đầu năm nay, Chính phủ Mỹ từng viện dẫn các lo ngại về an ninh quốc gia để ngăn việc phát hành những mô hình AI mạnh do Anthropic và OpenAI phát triển. Cả hai công ty đều tự nguyện tuân thủ yêu cầu này cho đến khi lệnh hạn chế được dỡ bỏ.
Bình luận (0)