Sự phát triển nhanh của trí tuệ nhân tạo (AI) đang làm thay đổi yêu cầu đối với hạ tầng trung tâm dữ liệu. Khi mật độ tính toán tăng, hệ thống điện và làm mát phải đáp ứng đồng thời yêu cầu về công suất, độ ổn định và khả năng vận hành trong các cấu hình có mật độ cao.
Theo NVIDIA, nền tảng DSX AI Factory được phát triển theo hướng thống nhất các thành phần từ điện toán, mạng, nguồn điện, làm mát đến cơ sở vật chất và phần mềm. Cách tiếp cận này nhằm giúp các nhà máy AI vận hành như một hệ thống thay vì tối ưu riêng lẻ từng thành phần.
Với các hệ thống tính toán mật độ cao, khả năng kiểm soát nhiệt trở thành một trong những yêu cầu quan trọng của hạ tầng. Một trong những giải pháp được sử dụng là thiết bị phân phối chất làm mát (CDU), có chức năng quản lý dòng chảy và nhiệt độ của chất lỏng để loại bỏ nhiệt từ hệ thống máy tính.
Theo thiết kế của NVIDIA DSX, các CDU làm mát chất lỏng đến chất lỏng tiếp nhận nước từ hệ thống hạ tầng và làm mát một vòng tuần hoàn thứ cấp phục vụ các tấm tản nhiệt trên chip. Thiết kế tham chiếu của DSX cũng yêu cầu các nhóm CDU có dự phòng N+1 nhằm duy trì khả năng vận hành khi một thiết bị cần bảo trì hoặc gặp sự cố.
Sự chuyển dịch này phản ánh yêu cầu ngày càng cao của các hệ thống AI. Thay vì chỉ dựa vào phương thức làm mát bằng không khí, các trung tâm dữ liệu mật độ cao có xu hướng sử dụng các giải pháp làm mát trực tiếp đến chip hoặc kết hợp với bộ trao đổi nhiệt phía sau thiết bị.
Trong tháng 9, Vertiv công bố mẫu CDU CoolChip công suất 2,3 MW được chứng nhận NVIDIA DSX Ready. Đây là mẫu CDU đầu tiên được chứng nhận cụ thể theo chương trình này và thuộc nhóm giải pháp CDU làm mát từ chất lỏng đến chất lỏng. Thiết bị hỗ trợ các ứng dụng làm mát trực tiếp đến chip và bộ trao đổi nhiệt phía sau thiết bị, có thể lắp đặt ở cuối hàng tủ rack hoặc dọc theo khu vực chu vi phòng.
Trước đó, Vertiv đã đưa mẫu CoolChip CDU 2300 vào danh mục giải pháp làm mát dành cho hệ thống tính toán mật độ cao. Thiết bị có công suất làm mát tới 2,3 MW và được thiết kế theo dạng liquid-to-liquid, phục vụ các hệ thống làm mát trực tiếp đến chip.
NVIDIA DSX Ready được triển khai nhằm giúp các đơn vị xây dựng nhà máy AI xác định những sản phẩm và giải pháp đã hoàn tất các yêu cầu đánh giá theo từng nhóm công nghệ. Chương trình hiện bắt đầu với hai nhóm gồm hệ thống lưu trữ năng lượng bằng pin (BESS) và CDU.
Đối với CDU, NVIDIA sử dụng bộ công cụ tự đánh giá để xác định một sản phẩm cụ thể có đáp ứng các yêu cầu chức năng tương ứng hay không. Điều này tạo ra một cơ sở tham chiếu chung hơn khi các nhà phát triển lựa chọn thiết bị cho hệ thống làm mát của nhà máy AI.
Tuy nhiên, chứng nhận DSX Ready không thay thế yêu cầu thiết kế và kỹ thuật của từng dự án. NVIDIA lưu ý khách hàng vẫn phải đánh giá khả năng tích hợp sản phẩm vào thiết kế cơ sở, cấu hình hệ thống và yêu cầu vận hành cụ thể.
Ông Scott Armul, Giám đốc Sản phẩm và Công nghệ của Vertiv cho biết: “Quy mô triển khai AI đang đặt ra yêu cầu về một cách tiếp cận tích hợp hơn cho hạ tầng trung tâm dữ liệu. Khi đó, các quyết định về năng lực tính toán, nguồn điện và hệ thống làm mát không thể được đưa ra một cách độc lập. Bất kỳ hạn chế nào hiện hữu ở một trong những hệ thống này cũng có thể ảnh hưởng đến hiệu suất và khả năng khai thác của toàn bộ cơ sở. Chứng nhận NVIDIA DSX Ready giúp khách hàng có một cơ sở tham chiếu nhất quán hơn khi đánh giá các hạ tầng trọng yếu trong tổng thể thiết kế”.
Theo ông Armul, việc mẫu CDU công suất 2,3 MW của Vertiv đạt chứng nhận phản ánh định hướng cung cấp các giải pháp quản lý nhiệt, năng lực kỹ thuật và dịch vụ hỗ trợ trong quá trình thiết kế, vận hành các hệ thống AI.
Nhìn rộng hơn, yêu cầu về làm mát đang gắn ngày càng chặt với bài toán điện, nước, mặt bằng và khả năng kết nối lưới điện của các nhà máy AI. NVIDIA cho rằng việc tối ưu riêng một thành phần có thể làm phát sinh điểm nghẽn ở một thành phần khác, do đó hạ tầng AI cần được thiết kế theo hướng phối hợp giữa điện toán, điện năng, làm mát và vận hành.
Trong xu hướng này, các tiêu chuẩn và chương trình đánh giá như DSX Ready có thể trở thành thêm một cơ sở để chủ đầu tư, nhà vận hành và đơn vị thiết kế tham chiếu khi lựa chọn thiết bị. Tuy nhiên, hiệu quả của giải pháp vẫn phụ thuộc vào cấu hình, điều kiện địa điểm và yêu cầu vận hành cụ thể của từng nhà máy AI.
