Agentic AI đang đòi hỏi hạ tầng doanh nghiệp phải kịp thời chuyển mình

Khoảng cách lớn giữa kỳ vọng và nguồn lực đầu tư

Ngày 28/10, Tập đoàn Intel công bố kết quả nghiên cứu chuyên sâu do tổ chức dữ liệu quốc tế IDC phối hợp cùng Intel thực hiện, chỉ ra bước chuyển dịch mang tính bước ngoặt trong làn sóng trí tuệ nhân tạo (AI) doanh nghiệp: Agentic AI đang phát triển với tốc độ chóng mặt, biến bài toán AI từ thách thức về mô hình thuần túy trở thành thách thức trực tiếp về cơ sở hạ tầng CNTT. 

Trong khi các mô hình AI truyền thống chỉ tiếp nhận câu lệnh và tạo phản hồi đơn lẻ, một tác nhân (agent) trong môi trường doanh nghiệp phải liên tục truy xuất dữ liệu độc quyền, kích hoạt mô hình, gọi ứng dụng nghiệp vụ, thực thi mã và áp dụng các chính sách an ninh nhiều lần trước khi hoàn tất một tác vụ phức tạp. Quy trình đa bước mang tính lặp lại liên tục này đặt ra yêu cầu chưa từng có đối với năng lực xử lý, thông lượng mạng và kiến trúc phân bổ tài nguyên của toàn hệ thống.

Khảo sát của IDC nhấn mạnh sự cấp bách của làn sóng chuyển dịch: 89% người ra quyết định CNTT đánh giá Agentic AI sẽ giữ vai trò trọng yếu trong 12 đến 24 tháng tới. Tuy nhiên, hạ tầng dành cho Agentic AI lại là hạng mục nhận mức đầu tư thấp nhất, khi chỉ 56% tổ chức khẳng định họ được cấp ngân sách đầy đủ hoặc thỏa đáng.

Thực trạng này đặt ra yêu cầu cấp bách: cơ hội không nằm ở việc chạy đua mua sắm thêm phần cứng rời rạc, mà cần xác lập chiến lược hạ tầng phù hợp với cách thức vận hành thực tế. Hạ tầng cho Agentic AI cần đáp ứng ba tiêu chuẩn cốt lõi: Triển khai linh hoạt theo mô hình kết hợp; Đa dạng hóa năng lực tính toán không đồng nhất; Liên tục tối ưu hóa việc phân bổ tài nguyên theo từng tác vụ thực tế. 

Đưa AI đến nơi dữ liệu đang được lưu trữ

Theo nghiên cứu, 55% người tham gia khảo sát duy trì cách tiếp cận cân bằng giữa hạ tầng CNTT nội bộ và đám mây công cộng, trong khi 38% chủ yếu hoặc hoàn toàn ưu tiên hệ thống nội bộ. Đáng chú ý, 45% xác định hiện đại hóa hoặc hợp nhất hạ tầng trung tâm dữ liệu là ưu tiên CNTT hàng đầu trong năm 2026, bên cạnh bảo mật, tuân thủ và khả năng phục hồi.

Những lựa chọn này phản ánh yêu cầu thực tế của doanh nghiệp. Ứng dụng nghiệp vụ và dữ liệu độc quyền thường nằm trên nhiều hệ thống khác nhau. Đưa toàn bộ dữ liệu lên đám mây không phải lúc nào cũng phù hợp, bởi doanh nghiệp còn phải tính đến độ trễ, chi phí băng thông, an ninh, chủ quyền dữ liệu và quy định pháp lý.

Vì vậy, mô hình AI lai (hybrid AI), kết hợp hạ tầng nội bộ với đám mây, đang trở thành hướng tiếp cận đáng chú ý. Thay vì buộc dữ liệu di chuyển đến nơi xử lý, doanh nghiệp có thể bố trí năng lực AI phù hợp với vị trí dữ liệu và yêu cầu của từng tác vụ.

Một vấn đề khác là cách phân bổ năng lực tính toán. Khảo sát IDC cho thấy 27% người mua xem GPU là yếu tố quyết định hiệu năng, 23% coi trọng CPU, trong khi khoảng một nửa cho rằng vai trò của hai loại bộ xử lý phụ thuộc vào từng tình huống cụ thể.

Với Agentic AI, một tác vụ có thể luân chuyển giữa suy luận, truy xuất cơ sở dữ liệu vector, tạo vector nhúng, điều phối vi dịch vụ và gọi giao diện lập trình ứng dụng (API). Vì thế, chỉ tăng số lượng GPU chưa chắc mang lại hiệu quả tương ứng nếu những thành phần còn lại không đáp ứng được yêu cầu.

Khoảng 40% người mua ưu tiên máy chủ tiêu chuẩn có khả năng tăng tốc ma trận, vector hoặc hỗ trợ thẻ cắm PCIe. Xu hướng này cho thấy doanh nghiệp cần phối hợp CPU, GPU và các bộ tăng tốc chuyên dụng, thay vì phụ thuộc vào một loại phần cứng.

Intel cho biết dòng vi xử lý Xeon được thiết kế để hỗ trợ cách tiếp cận đó. Nền tảng Performance-core tích hợp tính năng tăng tốc ma trận và vector, trong khi Efficient-core mật độ cao hướng đến mở rộng năng lực điều phối. Theo định hướng của hãng, doanh nghiệp có thể khai thác các khả năng này mà không nhất thiết phải tái cấu trúc toàn bộ trung tâm dữ liệu.

Dù vậy, bài toán quan trọng vẫn là hiệu quả tổng thể: hệ thống cần hoàn thành công việc với chi phí hợp lý, thay vì chỉ tối đa hóa số lượng phép tính hay token được xử lý.

x86 và lợi thế từ hạ tầng sẵn có

Với nhiều doanh nghiệp, triển khai AI còn liên quan đến chi phí chuyển đổi. Họ đã đầu tư nhiều năm vào hệ thống x86, cùng các ứng dụng, dữ liệu và quy trình quản trị hiện hữu. Xây dựng một hạ tầng AI tách biệt có thể làm tăng độ phức tạp trong tích hợp và vận hành.

Theo số liệu IDC được Intel công bố, mức độ phù hợp lý thuyết của x86 và Arm đối với Agentic AI gần tương đương, lần lượt đạt 87,5% và 87,2%. Tuy nhiên, khi đánh giá triển khai thực tế, x86 dẫn đầu ở 9 trong 12 tiêu chí.

Một số khác biệt đáng chú ý nằm ở tính tương thích phần mềm, với tỷ lệ 88% dành cho x86 và 80% cho Arm; khả năng mở rộng đạt 89% so với 81%; độ tin cậy và phục hồi đạt 88% so với 82%. X86 cũng dẫn trước về mức độ phổ biến hiện tại, 88% so với 77%, và chiều sâu chuyên môn kỹ thuật, 92% so với 83%.

Ở chiều ngược lại, Arm có lợi thế về giá thành, hiệu quả năng lượng và mức độ hài lòng theo khảo sát. Các số liệu cho thấy lựa chọn kiến trúc không chỉ phụ thuộc vào thông số phần cứng, mà còn liên quan đến khả năng tương thích, vận hành và mở rộng trong hệ thống doanh nghiệp.

Intel định hướng tận dụng nền tảng Xeon để đưa năng lực AI đến gần dữ liệu nội bộ, đồng thời tối ưu các khung phần mềm nguồn mở như PyTorch, vLLM và OpenVINO. Cách tiếp cận này nhằm duy trì tính linh hoạt, hạn chế sự phụ thuộc vào kiến trúc độc quyền và tận dụng hạ tầng hiện có.

Khi Agentic AI phát triển, CPU vẫn có vai trò trong điều phối, thực thi ứng dụng, truy xuất dữ liệu, bảo mật và kết nối các công cụ; GPU cùng những bộ tăng tốc khác đảm nhiệm các tác vụ cần năng lực tính toán chuyên biệt...