Cảnh báo về nguy cơ AI mất kiểm soát

Hội đồng Bảo an Liên Hợp Quốc vừa có phiên họp đặc biệt về trí tuệ nhân tạo (AI). Cuộc họp quy tụ sự tham gia của các lãnh đạo công nghệ hàng đầu thế giới. Một cảnh báo khẩn cấp vừa được đưa ra tại cuộc họp này đó là nguy cơ mất an ninh toàn cầu khi các hệ thống AI ngày càng trở nên mạnh mẽ hơn và có khả năng vượt khỏi tầm kiểm soát của con người.

Phiên họp do Pháp chủ trì diễn ra trong bối cảnh mối lo ngại gia tăng về việc AI có thể tự nâng cấp và vượt khỏi tầm kiểm soát của con người. Một số chuyên gia về AI nhận định đây là mối đe dọa xuyên biên giới mà không quốc gia nào có thể tự giải quyết.

GS. Yoshua Bengio - Chủ tịch Hội đồng độc lập quốc tế về AI của Liên Hợp Quốc cho biết: "Hợp tác quốc tế là điều thế giới cần khi đang phải đối mặt với ba mối đe dọa toàn cầu nảy sinh từ những tiến bộ của các mô hình AI tiên tiến. Thứ nhất là nguy cơ bị lạm dụng gây hậu quả thảm khốc, chẳng hạn như bởi các tổ chức khủng bố. Thứ hai là sự tập trung quyền lực. Thứ ba là nguy cơ mất quyền kiểm soát đối với AI".

Giám đốc điều hành OpenAI Sam Altman nhấn mạnh tầm quan trọng của việc để các thể chế dân chủ và chính phủ tham gia vào quá trình định hướng phát triển AI, thay vì giao toàn bộ quyền quyết định cho các phòng thí nghiệm công nghệ.

Ông Sam Altman - Giám đốc điều hành OpenAI cho hay: "Ngành công nghiệp AI không nên chấp nhận rủi ro công nghệ quá lớn chỉ vì lợi ích mang lại quá cao, hay vì cảm thấy không thể chậm lại. Việc vượt qua các đối thủ trong cuộc đua cạnh tranh không phải là lý do để đưa ra những quyết định vội vàng".

Cũng tại phiên họp này, các đại biểu đã đưa ra các đề xuất cụ thể như cấm sử dụng AI chế tạo vũ khí sinh học, lập hệ thống đánh giá năng lực các mô hình và cảnh báo sự cố an ninh toàn cầu.

Ông Jean-Noel Barrot - Bộ trưởng Bộ châu Âu và Ngoại giao Pháp đánh giá: "Đây là một thách thức hệ trọng đòi hỏi sự vào cuộc của nhà nước và chính phủ các quốc gia. Vì vậy, chúng ta hãy cùng nhau hợp tác và cần khẩn trương hành động để thiết lập cơ chế quản trị tốt, đảm bảo trí tuệ nhân tạo và an ninh công nghệ không chỉ phục vụ an ninh chung của nhân loại mà còn tôn trọng con người và phẩm giá con người".

Phiên họp khép lại với lời kêu gọi từ các quốc gia thành viên về việc đẩy nhanh hành động chung, nhằm đảm bảo công nghệ AI phục vụ cho lợi ích và sự an toàn của toàn nhân loại.