Anthropic rút 2 mô hình AI sau cảnh báo bẻ khóa

Anthropic cho biết Chính phủ Mỹ phát hiện một phương thức “jailbreak”, tức thủ thuật vượt qua các hàng rào bảo mật để buộc mô hình trí tuệ nhân tạo thực hiện những yêu cầu vốn bị hạn chế, trên Fable 5.

Sau đó, Mỹ áp dụng biện pháp kiểm soát xuất khẩu đối với 2 mô hình. Theo Anthropic, quy định này buộc công ty phải ngăn mọi công dân nước ngoài tiếp cận Fable 5 và Mythos 5, dù họ ở trong hay ngoài nước Mỹ. Do không thể giới hạn người dùng theo cách này, Anthropic quyết định đóng hoàn toàn quyền truy cập.

Mythos 5 trước đó chỉ được cung cấp cho một số cơ quan chính phủ và chuyên gia công nghệ vì có khả năng phát hiện lỗ hổng an ninh mạng.

Anthropic phản đối quyết định trên, cho rằng lỗ hổng được cơ quan chức năng nêu ra chưa đủ nghiêm trọng để áp dụng biện pháp hạn chế trên diện rộng. Công ty cảnh báo nếu tiêu chuẩn này được áp dụng phổ biến, quá trình phát triển các mô hình AI tiên tiến có thể gần như bị đình trệ.

Anthropic cho rằng Chính phủ Mỹ cần có quyền ngăn chặn những hoạt động triển khai AI không an toàn, nhưng quá trình này phải minh bạch, công bằng, rõ ràng và dựa trên bằng chứng kỹ thuật. Theo công ty, biện pháp vừa được áp dụng không đáp ứng các nguyên tắc đó.

Vụ việc diễn ra trong bối cảnh Anthropic từng xung đột với Bộ Quốc phòng Mỹ. Cơ quan này trước đó xếp công ty vào nhóm “rủi ro chuỗi cung ứng” sau khi Anthropic phản đối việc sử dụng các mô hình Claude cho vũ khí tự động hoàn toàn hoặc hoạt động giám sát quy mô lớn trong nước.

Ông David Sacks, đồng Chủ tịch Hội đồng Cố vấn của Tổng thống Mỹ về Khoa học và Công nghệ, cho rằng sự cố hiện tại không liên quan đến tranh chấp trước đó. Tuy nhiên, ông bác bỏ quan điểm của Anthropic rằng phương thức bẻ khóa không nghiêm trọng và cho rằng công ty đã ưu tiên duy trì mô hình tiêu dùng hơn vấn đề an toàn.

Ông Ayham Boucher, Giám đốc điều hành phụ trách chiến lược và đổi mới AI tại Đại học Cornell, nhận định mọi mô hình AI đều có thể bị bẻ khóa. Theo ông, việc vá một lỗ hổng không thể giải quyết hoàn toàn vấn đề vì những phương thức vượt hàng rào bảo mật khác có thể tiếp tục xuất hiện.

Một số chuyên gia cũng cảnh báo các biện pháp hạn chế đột ngột có thể làm chậm quá trình phát triển AI tại Mỹ và ảnh hưởng đến khả năng cạnh tranh với các công ty Trung Quốc. Đồng thời, cách thức chính phủ can thiệp vào các mô hình AI tiên tiến đang làm dấy lên câu hỏi về cơ sở pháp lý, tính minh bạch và quyền tự do ngôn luận.