Chính phủ Mỹ siết chặt kiểm soát với các mô hình AI

Tờ CNBC đưa tin, Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) thuộc Bộ Thương mại Mỹ vừa thông báo đạt được thỏa thuận với Google, Microsoft và xAI của tỷ phú Elon Musk, qua đó cho phép chính phủ Mỹ đánh giá các mô hình trí tuệ nhân tạo trước khi chúng được phát hành công khai.

Theo thông cáo, CAISI sẽ tiến hành “đánh giá trước triển khai và nghiên cứu có mục tiêu nhằm đánh giá tốt hơn năng lực của các mô hình AI tiên tiến, đồng thời nâng cao mức độ an toàn của AI”.

Các thỏa thuận mới cũng cho phép CAISI đánh giá các mô hình AI mới và tác động tiềm tàng của chúng đối với an ninh quốc gia và độ an toàn công cộng trước khi ra mắt. Trung tâm cũng sẽ tiến hành nghiên cứu và thử nghiệm sau khi các mô hình AI được triển khai và đã hoàn thành hơn 40 đánh giá mô hình AI.

"Khoa học đo lường độc lập, nghiêm ngặt là điều cần thiết để hiểu AI tiên tiến và những tác động của nó đối với an ninh quốc gia", Giám đốc CAISI Chris Fall cho biết.

"Việc mở rộng hợp tác với ngành công nghiệp này giúp chúng tôi mở rộng quy mô công việc vì lợi ích công cộng vào thời điểm quan trọng, ông Fall nói thêm. 

CNBC cũng cho hay, ngoài thông báo của CAISI, Nhà Trắng cũng đang xem xét việc thành lập một nhóm công tác mới về AI nhằm nghiên cứu các quy trình giám sát tiềm năng, bao gồm kế hoạch thẩm định các mô hình trước khi chúng được phát hành ra công chúng.

Theo một nguồn tin thân cận, nhóm công tác này sẽ tập hợp nhiều lãnh đạo công nghệ và quan chức chính phủ. Nguồn tin yêu cầu giấu tên do các chi tiết vẫn mang tính bảo mật. The New York Times là đơn vị đầu tiên đưa tin về nhóm công tác này.

Sau New York Times, kênh truyền hình CNN cũng xác nhận thông tin Nhà Trắng hiện đang tìm cách tham vấn một nhóm chuyên gia nhằm tư vấn về khả năng xây dựng quy trình đánh giá của chính phủ đối với các mô hình AI mới.

Nếu được triển khai, động thái này sẽ đánh dấu sự thay đổi so với cách tiếp cận, theo CNN là tương đối nới lỏng của chính quyền Trump đối với việc quản lý AI cho đến nay.

 “Mọi thông báo chính sách sẽ được Tổng thống công bố trực tiếp. Các cuộc thảo luận về khả năng ban hành sắc lệnh hành pháp hiện chỉ là suy đoán”, người phát ngôn Nhà Trắng nói với CNN.

Rủi ro với an ninh mạng

Trang CNN, sự hợp tác giữa CAISI và các ông lớn công nghệ diễn ra sau Anthropic cho ra mắt mô hình AI Mythos được đánh giá là "rất mạnh mẽ", đồng thời đẩy mối lo ngại về tác động của AI đối với an ninh mạng lên đến đỉnh điểm vào tháng trước. Theo CNBC, thực tế này đã góp phần thúc đẩy Nhà Trắng xem xét một quy trình đánh giá chính thức đối với AI.

Mythos, mô hình mà Anthropic cho rằng "vượt xa" các mô hình khác về an ninh mạng, đã gây ra làn sóng lo ngại trong giới chính phủ, ngân hàng và các công ty tiện ích trong tháng qua. 

Công ty cho biết họ chưa cảm thấy thoải mái khi công bố mô hình này ra công chúng và đang hạn chế quyền truy cập cho một nhóm các tổ chức được phê duyệt. Anthropic cho biết cũng đã báo cáo về khả năng của mô hình này cho các quan chức cấp cao của chính phủ Mỹ.

Tuần trước, OpenAI cũng cho biết sẽ cung cấp những mô hình AI tiên tiến nhất của hãng cho chính phủ, nhằm đi trước các mối đe dọa liên quan tới AI.

Theo bà Jessica Ji, nhà phân tích nghiên cứu cấp cao tại Trung tâm An ninh và Công nghệ Mới nổi của Đại học Georgetown, các quan hệ hợp tác này có thể giúp CAISI dễ dàng kiểm tra các mô hình AI hơn nhờ có thêm nguồn lực.

“Họ đơn giản là không có cùng mức độ nguồn lực như các công ty công nghệ lớn, bao gồm nhân lực, đội ngũ kỹ thuật cũng như khả năng tiếp cận năng lực tính toán để rà soát và kiểm tra nghiêm ngặt các mô hình này”, bà Jessica Ji nói.

Giám đốc phát triển AI có trách nhiệm của Microsoft Natasha Crampton cho biết, trong khi Microsoft thường xuyên tự kiểm tra các mô hình của mình, CAISI mang lại thêm “chuyên môn kỹ thuật, khoa học và an ninh quốc gia”. 

Google từ chối bình luận thêm về thỏa thuận. xAI chưa phản hồi các yêu cầu bình luận.