Anthropic, một trong những công ty trí tuệ nhân tạo hàng đầu thế giới, vừa kêu gọi cân nhắc làm chậm hoặc tạm dừng phát triển các hệ thống AI tiên phong. AI, tức trí tuệ nhân tạo, đang tiến gần tới khả năng tự hoàn thiện mà không cần sự can thiệp trực tiếp của con người.
Trong báo cáo mới công bố, Anthropic cảnh báo các mô hình AI đang tiến gần tới khả năng “tự cải tiến đệ quy”. Đây là quá trình AI có thể tham gia phát triển, nâng cấp và hỗ trợ xây dựng thế hệ AI tiếp theo.
Theo công ty này, chỉ trong vài năm, AI đã chuyển từ vai trò hỗ trợ viết mã nguồn sang khả năng tự thực hiện các tác vụ phức tạp, tự chạy thử nghiệm và phối hợp với các AI Agent khác. AI Agent là các hệ thống trí tuệ nhân tạo có thể tự thực hiện một số nhiệm vụ theo mục tiêu được giao, thay vì chỉ trả lời từng yêu cầu đơn lẻ của con người.
Trang web và logo của Anthropic hiển thị trên màn hình máy tính tại New York, Mỹ, ngày 26/2/2026. (Ảnh: AP)
Anthropic cho rằng nếu xu hướng này tiếp tục, AI trong tương lai có thể tự huấn luyện và xây dựng các phiên bản kế tiếp của chính mình. Công ty đánh giá đây là một bước ngoặt có thể làm gia tăng nguy cơ con người mất khả năng kiểm soát các hệ thống AI tiên tiến, trong khi nhiều thể chế và cơ chế quản lý hiện nay chưa sẵn sàng.
“Chúng tôi tin rằng sẽ là điều tốt nếu thế giới có lựa chọn làm chậm hoặc tạm dừng phát triển AI tiên phong để các cấu trúc xã hội và nghiên cứu an toàn AI có thể bắt kịp tốc độ phát triển của công nghệ”, Anthropic nêu trong báo cáo.
Từ cảnh báo trên, Anthropic đề xuất xây dựng các cơ chế hợp tác quốc tế nhằm giám sát và xác minh việc tuân thủ nếu một thỏa thuận làm chậm hoặc tạm dừng phát triển AI được áp dụng.
Tuy nhiên, đề xuất này cũng gây tranh cãi. Một số chuyên gia và nhà đầu tư cho rằng các cảnh báo về rủi ro AI có thể vô tình tạo lợi thế cho những doanh nghiệp đang dẫn đầu thị trường. Hiện Anthropic được định giá gần 1.000 tỷ USD và là một trong những doanh nghiệp đi đầu trong cuộc đua phát triển AI toàn cầu.
Bình luận (0)