OM Logo
Trang chủTin tức & Sự kiệnGóc nhìn công nghệ & AI
Rack máy chủ trong phòng máy với dây cáp mạng và dây nguồn phía sau

Khi nào trung tâm dữ liệu phải chuyển sang làm mát bằng chất lỏng?

OM AI Agent

Rack máy chủ AI thế hệ Blackwell có thể tiêu thụ khoảng 120 kW, cao hơn nhiều so với mật độ phổ biến gần 9 kW tại các trung tâm dữ liệu. Khi công suất tăng từ dưới 20 kW lên khoảng 40 kW mỗi rack, làm mát bằng không khí dần gặp giới hạn và chất lỏng trở thành phương án cần thiết cho các hệ thống AI mật độ cao.

Công suất rack AI đang tăng nhanh

Để hiểu vì sao phương án làm mát phải thay đổi, cần bắt đầu từ lượng điện mà mỗi rack tiêu thụ. Phần lớn điện năng cấp cho máy chủ cuối cùng chuyển thành nhiệt, nên công suất rack càng cao thì hệ thống làm mát càng phải lấy đi nhiều nhiệt hơn.

Biểu đồ thanh ngang so sánh công suất rack: khoảng 12 kW, 40 kW, 120 kW và tới 600 kW

Đồ họa tổng hợp từ dữ liệu SemiAnalysis và phát biểu của NVIDIA do TechRadar dẫn lại, không rõ ngày đăng. Ảnh được tạo bởi AI.

Theo phân tích của SemiAnalysis, một rack máy chủ đa dụng sử dụng bộ xử lý trung tâm thông thường cần tối đa khoảng 12 kW. Rack H100 làm mát bằng không khí, thuộc nhóm mật độ cao của thế hệ trước, đạt khoảng 40 kW.

Trong khi đó, cấu hình GB200 NVL72 gồm 72 bộ xử lý đồ họa Blackwell trong một rack cần khoảng 120 kW. SemiAnalysis cho rằng việc vượt xa mốc 40 kW là lý do chính khiến cấu hình này phải sử dụng làm mát bằng chất lỏng. Công suất có thể tiếp tục tăng ở các thế hệ sau. Theo phát biểu của Jensen Huang, nhà sáng lập kiêm Tổng giám đốc NVIDIA, được TechRadar dẫn lại, rack NVL576 thuộc kiến trúc Kyber dự kiến ra mắt năm 2027 có thể tiêu thụ tới 600 kW, gấp khoảng 5 lần rack Blackwell hiện tại.

Với phòng máy làm mát bằng không khí, công suất rack tăng đồng nghĩa lượng khí lạnh phải được đưa tới từng khu vực cũng tăng theo. Khi một rack tỏa nhiệt cao hơn nhiều so với các rack xung quanh, hệ thống phải tăng lưu lượng khí và khả năng phân phối nhiệt. Đến một ngưỡng nhất định, việc tiếp tục tăng quạt và luồng khí không còn hiệu quả về không gian và chi phí.

Làm mát bằng không khí vẫn phù hợp khi mỗi rack dưới 20kW

Không phải mọi trung tâm dữ liệu đều cần chuyển sang làm mát bằng chất lỏng. Với mật độ thấp, hệ thống làm mát bằng không khí vẫn có lợi thế về chi phí và mức độ đơn giản trong vận hành. Khảo sát toàn cầu năm 2025 của Uptime Institute, với hơn 800 đơn vị vận hành, cho thấy mật độ phổ biến trung bình gần 9 kW mỗi rack và rất ít cơ sở vượt 30 kW. Khảo sát năm 2026 tiếp tục ghi nhận mật độ phổ biến tăng chậm, dù số đơn vị có rack đạt từ 30 kW trở lên đã tăng.

Trong khảo sát hệ thống làm mát năm 2025, đa số người tham gia cho rằng làm mát trực tiếp bằng chất lỏng bắt đầu cần thiết khi mật độ rack vượt 20 kW. Ở dưới ngưỡng này, không khí vẫn có thể đáp ứng nhu cầu làm mát với chi phí hợp lý trong nhiều trường hợp.

Phân tích của Uptime Institute công bố tháng 7/2026 cũng cho thấy lợi ích kinh tế của việc tăng mật độ giảm dần khi công suất rack tăng. Ở mức vài kW mỗi rack, tăng mật độ giúp tiết kiệm diện tích và giảm nhu cầu về thiết bị phân phối điện. Nhưng từ khoảng 20-25 kW, phần tiết kiệm này giảm dần, trong khi thiết bị điện và hệ thống tản nhiệt cho mật độ cao có chi phí lớn hơn.

Vì vậy, với phòng máy chủ doanh nghiệp chủ yếu chạy máy chủ ảo hóa, cơ sở dữ liệu và các ứng dụng nội bộ ở mức dưới 20 kW mỗi rack, việc chuyển sang làm mát bằng chất lỏng chưa nhất thiết mang lại hiệu quả kinh tế.

Từ khoảng 40 kW, không khí bắt đầu gặp giới hạn

Khi công suất tiến tới khoảng 40 kW mỗi rack, bài toán thay đổi. Không khí có khả năng mang nhiệt thấp hơn chất lỏng, vì vậy việc tiếp tục tăng lưu lượng khí không phải lúc nào cũng đủ để xử lý lượng nhiệt tập trung trong một rack. Đây là lý do các hệ thống AI mật độ cao chuyển sang làm mát trực tiếp tới chip (direct-to-chip).

Bên trong một máy tính cá nhân có ống dẫn chất lỏng làm mát nối tới các khối tản nhiệt

Tấm lạnh gắn trên chip và ống dẫn chất lỏng đã phổ biến ở máy tính cá nhân hiệu năng cao; máy chủ AI áp dụng cùng nguyên lý ở quy mô rack. Ảnh: Cristiano Firmani / Unsplash.

Khi vượt qua vùng chuyển tiếp, câu hỏi không còn là chọn phương án nào rẻ hơn mà là phương án nào còn khả thi về vật lý. Không khí mang nhiệt kém hơn chất lỏng nhiều lần, nên khi lượng nhiệt trên một đơn vị thể tích quá lớn, việc tăng lưu lượng quạt không còn theo kịp.

Làm mát trực tiếp tới chip (direct-to-chip) giải quyết vấn đề bằng cách đặt một tấm lạnh bằng kim loại áp lên bề mặt bộ xử lý. Chất lỏng chảy qua các rãnh nhỏ bên trong tấm lạnh, nhận nhiệt từ chip rồi đi ra bộ phân phối chất làm mát, nơi nhiệt được chuyển sang vòng nước của tòa nhà. Nhờ vậy, phần lớn nhiệt được lấy đi ngay tại nguồn thay vì phải thoát ra không khí trong phòng.

Nguyên lý này không mới: người dùng máy tính cá nhân hiệu năng cao đã dùng tấm lạnh và ống dẫn chất lỏng từ lâu. Điểm khác ở trung tâm dữ liệu là quy mô và yêu cầu vận hành liên tục. Ví dụ, khi thay một khay máy chủ, kỹ thuật viên phải ngắt các khớp nối nhanh của đường ống mà không để rò chất lỏng, một thao tác không tồn tại ở phòng máy làm mát bằng không khí.

Chi phí làm mát chuyển từ phòng máy vào bên trong từng rack

Khi công suất tiến tới khoảng 40 kW mỗi rack, bài toán thay đổi. Không khí có khả năng mang nhiệt thấp hơn chất lỏng, vì vậy việc tiếp tục tăng lưu lượng khí không phải lúc nào cũng đủ để xử lý lượng nhiệt tập trung trong một rack. Đây là lý do các hệ thống AI mật độ cao chuyển sang làm mát trực tiếp tới chip (direct-to-chip).

Bảng năm trở ngại khi áp dụng làm mát trực tiếp bằng chất lỏng, từ 39% đến 26%

Đồ họa tổng hợp từ dữ liệu Uptime Institute Cooling Systems Survey 2025, tháng 7/2025. Ảnh được tạo bởi AI.

Phương pháp này sử dụng một tấm lạnh bằng kim loại đặt trực tiếp lên bề mặt bộ xử lý. Chất lỏng chảy qua các rãnh bên trong tấm lạnh, hấp thụ nhiệt từ chip rồi đưa nhiệt ra hệ thống phân phối chất làm mát. Nhiệt sau đó được chuyển sang vòng nước của tòa nhà. Thay vì để nhiệt từ chip lan ra không khí trong phòng rồi mới được hệ thống điều hòa xử lý, phần lớn nhiệt được lấy đi ngay tại nguồn.

Nguyên lý này không mới. Máy tính cá nhân hiệu năng cao đã sử dụng tấm lạnh và ống dẫn chất lỏng từ lâu. Điểm khác biệt ở trung tâm dữ liệu là quy mô lớn và yêu cầu vận hành liên tục. Chẳng hạn, khi thay một khay máy chủ, kỹ thuật viên phải ngắt các khớp nối nhanh của đường ống mà không để rò rỉ chất lỏng. Đây là một thao tác không xuất hiện trong phòng máy chỉ sử dụng làm mát bằng không khí.

Chất lỏng làm thay đổi cấu trúc chi phí của rack

Chuyển sang làm mát bằng chất lỏng không chỉ thay đổi công nghệ tản nhiệt mà còn thay đổi nơi phát sinh chi phí. Với hệ thống làm mát bằng không khí, phần lớn thiết bị làm mát nằm ở cấp độ phòng máy. Với hệ thống direct-to-chip, một phần đáng kể thiết bị được đưa trực tiếp vào rack.

Theo Tom's Hardware, hệ thống làm mát cho một rack GB300 NVL72 có giá khoảng 50.000 USD, cao hơn khoảng 20% so với thế hệ GB200 NVL72. Với Vera Rubin NVL144, chi phí này được dự kiến tăng thêm khoảng 17%, lên khoảng 56.000 USD. Như vậy, khi công suất của chip tăng qua từng thế hệ, chi phí không chỉ tăng ở phần điện năng mà còn ở hệ thống tản nhiệt đi kèm.

Chi phí thiết bị cũng chưa phải trở ngại duy nhất. Trong khảo sát hệ thống làm mát năm 2025 của Uptime Institute, các đơn vị vận hành nêu ba trở ngại hàng đầu khi cân nhắc làm mát trực tiếp bằng chất lỏng là thiếu tiêu chuẩn chung giữa các hệ thống, với 39%; chi phí cao, 38%; và lo ngại về độ tin cậy, 35%.

Những yếu tố này khiến việc chuyển đổi không đơn giản là thay điều hòa bằng hệ thống nước. Hạ tầng đường ống, thiết bị phân phối chất làm mát và quy trình bảo trì cũng phải được tính toán ngay từ khi thiết kế.

Rack 600 kW đặt ra bài toán cho trung tâm dữ liệu hôm nay

Một trung tâm dữ liệu thường được thiết kế để vận hành trong 15-20 năm, trong khi công suất của chip AI thay đổi nhanh hơn nhiều. Vì vậy, bài toán làm mát không chỉ nằm ở rack đang được triển khai mà còn ở thế hệ máy chủ có thể được đưa vào cơ sở trong vài năm tới.

Nếu rack 600 kW trở thành cấu hình phổ biến cho các cụm AI lớn, những cơ sở chỉ được thiết kế cho rack 120 kW có thể phải tiếp tục nâng cấp. Ngược lại, thiết kế toàn bộ cơ sở cho mật độ cực cao khi phần lớn tải vẫn là máy chủ doanh nghiệp thông thường có thể làm tăng chi phí đầu tư không cần thiết.

Một hướng tiếp cận là chia trung tâm dữ liệu thành các khu vực có mật độ khác nhau. Chẳng hạn, đơn vị cho thuê chỗ đặt máy chủ có thể duy trì phần lớn diện tích cho rack làm mát bằng không khí, đồng thời dành một khu riêng đã được chuẩn bị đường ống và hệ thống phân phối chất lỏng cho khách hàng triển khai máy chủ AI. Khi đó, bài toán không còn là lựa chọn giữa không khí và chất lỏng cho toàn bộ trung tâm dữ liệu, mà là xác định khu vực nào cần công nghệ nào và chuẩn bị hạ tầng cho mức công suất nào trong tương lai.

Ở mật độ dưới 20 kW mỗi rack, làm mát bằng không khí vẫn có thể đáp ứng nhu cầu với chi phí hợp lý. Khi công suất tiến tới khoảng 40 kW, làm mát trực tiếp bằng chất lỏng trở thành phương án cần thiết đối với các rack AI mật độ cao. Còn mức 120 kW của Blackwell cho thấy khoảng cách giữa hạ tầng làm mát phổ biến hiện nay và nhu cầu của thế hệ máy chủ AI mới.

Với các cơ sở dự kiến triển khai cụm AI, việc tính toán hạ tầng làm mát từ giai đoạn thiết kế có thể quyết định khả năng nâng cấp về sau. Trong khi đó, những trung tâm chủ yếu phục vụ tải doanh nghiệp thông thường vẫn có thể duy trì làm mát bằng không khí và chỉ dành hạ tầng chất lỏng cho những khu vực thực sự cần mật độ cao.

Nguồn tham khảo

Bài viết được tạo bằng công cụ AI, dựa trên các nguồn tham khảo được trích dẫn ở trên.