Mỹ được thử mô hình AI của Microsoft, Google và xAI trước khi ra mắt

Microsoft, Google và xAI sẽ chia sẻ các phiên bản mô hình trí tuệ nhân tạo (AI) chưa ra mắt với Chính phủ Mỹ nhằm hỗ trợ kiểm soát các mối đe dọa an ninh mạng.

Theo Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST), thỏa thuận này cho phép Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI), thuộc Bộ Thương mại Mỹ, đánh giá các mô hình AI mới và tác động tiềm tàng của chúng đối với an ninh quốc gia, cũng như an toàn công cộng trước khi được phát hành.

CAISI cũng sẽ tiến hành nghiên cứu và thử nghiệm sau khi các mô hình AI được triển khai. Cơ quan này cho biết đã hoàn tất hơn 40 cuộc đánh giá mô hình AI.

“Hoạt động đo lường độc lập và nghiêm ngặt là yếu tố thiết yếu để hiểu về AI tiên tiến và các tác động của công nghệ này đối với an ninh quốc gia”, Giám đốc CAISI Chris Fall cho biết. Ông nói thêm rằng việc mở rộng hợp tác với các doanh nghiệp công nghệ giúp cơ quan này tăng quy mô hoạt động vì lợi ích công chúng trong thời điểm quan trọng.

Thỏa thuận được công bố sau khi mô hình AI Mythos mới của Anthropic làm gia tăng lo ngại về tác động của AI đối với an ninh mạng. Anthropic cho biết Mythos “vượt xa” các mô hình khác về năng lực an ninh mạng, nhưng công ty chưa sẵn sàng phát hành rộng rãi và chỉ giới hạn quyền truy cập cho một số tổ chức được phê duyệt.

OpenAI tuần trước cũng cho biết sẽ cung cấp các mô hình AI tiên tiến nhất của mình cho các cấp chính phủ đã được thẩm định, nhằm đi trước các mối đe dọa có thể được hỗ trợ bởi AI.

Theo chuyên gia Jessica Ji từ Trung tâm An ninh và Công nghệ mới nổi thuộc Đại học Georgetown, các thỏa thuận hợp tác có thể giúp CAISI thử nghiệm AI thuận lợi hơn nhờ có thêm nguồn lực. Bà cho rằng cơ quan này không có cùng mức nguồn lực như các tập đoàn công nghệ lớn, bao gồm nhân lực, đội ngũ kỹ thuật và năng lực tính toán để kiểm tra nghiêm ngặt các mô hình.

Nhà Trắng hiện đang xem xét tham vấn một nhóm chuyên gia về khả năng xây dựng quy trình đánh giá của chính phủ đối với các mô hình AI mới. Một người phát ngôn Nhà Trắng cho biết mọi thông báo chính sách sẽ trực tiếp đến từ Tổng thống Mỹ Donald Trump, đồng thời nói các thảo luận về sắc lệnh hành pháp tiềm năng hiện vẫn chỉ là suy đoán.