Bài toán đưa AI từ thử nghiệm vào vận hành thực tế

Trong bối cảnh ứng dụng AI ngày càng mạnh mẽ, Vertiv và Trung tâm Nghiên cứu Tích hợp Deloitte chính thức công bố hợp tác nhằm hỗ trợ các doanh nghiệp giải quyết thách thức trong quá trình đưa AI vào thực tiễn. Quá trình hợp tác này tập trung vào việc xác định vị trí triển khai các khối lượng công việc AI và đánh giá liệu cơ sở hạ tầng vật lý hiện có có đáp ứng đủ yêu cầu vận hành hay không.

Trong đó, tài liệu "Vertiv: Hướng dẫn Thiết kế hạ tầng AI cho Doanh nghiệp" cung cấp cho các nhà lãnh đạo doanh nghiệp, đội ngũ IT và quản lý cơ sở hạ tầng một khung đánh giá dựa trên khối lượng công việc thực tế, giúp đưa ra quyết định phù hợp trước khi cam kết kế hoạch đầu tư.

Tài liệu hướng dẫn cụ thể hóa các yếu tố trên thành quy trình bốn bước, bắt đầu bằng việc xác định mục tiêu kinh doanh và khối lượng công việc AI dự kiến. Tiếp theo, doanh nghiệp tiến hành đánh giá quy mô, tốc độ xử lý, yêu cầu vận hành, từ đó xác định vị trí triển khai phù hợp nhất và lựa chọn mô hình hạ tầng vật lý cùng thiết kế tham chiếu tương ứng.

Quy trình này nhìn nhận hệ thống AI bao gồm nhiều loại ứng dụng khác nhau. Các tác vụ thử nghiệm có thể duy trì trên điện toán đám mây, trong khi các tác vụ vận hành liên tục hoặc quan trọng phù hợp hơn với hạ tầng kết hợp hoặc tự quản lý. Những tác vụ đòi hỏi tốc độ phản hồi nhanh, bảo mật cao hoặc đặt gần nguồn dữ liệu có thể cần chạy tại chỗ hoặc trong môi trường kiểm soát riêng. Phương pháp tiếp cận này giúp điện toán đám mây công cộng, trung tâm dữ liệu thuê ngoài, hệ thống tự chủ, môi trường kết hợp và hạ tầng tại chỗ đều phát huy vai trò, cung cấp phương án xác định môi trường vận hành tốt nhất cho từng khối lượng công việc.

Tài liệu phân loại các khối lượng công việc AI thành sáu nhóm chính, bao gồm quá trình phát triển, huấn luyện lại mô hình và bốn nhóm ứng dụng thực tế. Cách phân loại này giúp nhận diện các khối lượng công việc có yêu cầu tương đồng để thiết lập cơ sở lập kế hoạch nhất quán.

Mỗi khối lượng công việc sau đó được ghép nối với một trong bốn mô hình hạ tầng vật lý: cụm AI tại chỗ, cụm AI quy mô nhỏ, cụm AI quy mô lớn và cụm AI mật độ cao. Các mô hình này cung cấp nền tảng để quyết định về nguồn điện, hệ thống làm mát, điều khiển, kết nối, tính ổn định và khả năng mở rộng. Những thiết kế tham chiếu sẽ tiếp tục được điều chỉnh dựa trên khảo sát địa điểm và thiết kế kỹ thuật chi tiết.

Mức độ sẵn sàng của phòng máy là yếu tố quan trọng cho cả bốn mô hình. Việc đánh giá địa điểm dự định đặt máy chủ về nguồn điện, làm mát, kết nối và không gian nâng cấp ngay từ sớm sẽ giúp phát hiện các điểm nghẽn hạ tầng trước khi làm chậm tiến độ dự án.