Quản lý nhiệt chip AI
Hiện tại, những gã khổng lồ công nghệ khác như Microsoft, Google, Meta cũng đang mở rộng trung tâm dữ liệu để đào tạo và vận hành các mô hình trí tuệ nhân tạo của mình. Theo báo cáo, Microsoft và OpenAI đang lên kế hoạch xây dựng một dự án trung tâm dữ liệu bao gồm một siêu máy tính với hàng triệu chip máy chủ chuyên dụng và dự án hiện tại có thể tiêu tốn 115 tỷ USD, bao gồm siêu máy tính trí tuệ nhân tạo có tên Stargate, dự kiến ra mắt vào năm 2028. Giám đốc điều hành Meta Mark Zuckerberg cũng tuyên bố vào tháng 1 năm nay rằng cơ sở hạ tầng máy tính của công ty sẽ bao gồm 30000 card đồ họa H100 vào cuối năm 2024. Ông cũng nói thêm, “Nếu bao gồm các GPU khác, sẽ có khoảng 600000 phép tính tương đương H100”.
AIGC dựa trên các mô hình lớn và dữ liệu lớn. Mô hình lớn đề cập đến một mô hình có thể thích ứng với các nhiệm vụ tiếp theo sau khi đào tạo trên dữ liệu rộng và quy mô lớn. Sau khi xuất hiện một mô hình lớn, (1) các tham số của mô hình được tăng lên về độ lớn; (2) Nhu cầu đa dạng thúc đẩy nâng cấp sức mạnh tính toán đa dạng: Sức mạnh tính toán có thể được chia thành sức mạnh tính toán cơ bản, sức mạnh tính toán thông minh và sức mạnh siêu máy tính theo nhu cầu phù hợp. Năm 2021, tổng sức mạnh tính toán của các thiết bị điện toán toàn cầu đạt 615 EFlops, với tốc độ tăng trưởng 44%. Đến năm 2030, dự kiến sẽ tăng lên 56ZFlops, với tốc độ CAGR là 65%. Sức mạnh tính toán thông minh sẽ tăng từ 232EFlops lên 52,5ZFlops, với tốc độ CAGR vượt quá 80%; Sau sự xuất hiện của mô hình lớn, nó đã mang đến một xu hướng mới về tăng trưởng sức mạnh tính toán, với thời gian tăng gấp đôi trung bình cho sức mạnh tính toán là 9,9 tháng.
Đằng sau việc cải thiện sức mạnh tính toán, chip phải có hiệu suất tính toán cao hơn và hoàn thành nhiều phép tính hơn trong thời gian ngắn hơn, điều này chắc chắn sẽ dẫn đến mức tiêu thụ năng lượng của chip tăng lên. Mật độ cao và đặc điểm tiêu thụ điện năng cao của các trung tâm dữ liệu trong các trung tâm siêu máy tính khiến vấn đề tản nhiệt ngày càng nổi bật. Các trung tâm dữ liệu hiện đại, đặc biệt là các trung tâm siêu máy tính, thường chứa một số lượng lớn các thiết bị công suất cao tạo ra một lượng nhiệt đáng kể trong quá trình hoạt động. Nếu nhiệt lượng không thể được tản nhiệt một cách kịp thời và hiệu quả, nó không chỉ ảnh hưởng đến hiệu suất của thiết bị mà còn có thể dẫn đến hỏng hóc phần cứng. Theo báo cáo của IDC, khoảng 40% năng lượng tiêu thụ trong trung tâm dữ liệu được sử dụng cho hệ thống làm mát, cho thấy các giải pháp làm mát hiệu quả là rất quan trọng đối với hoạt động của trung tâm dữ liệu.
Các hệ thống làm mát không khí truyền thống không còn đáp ứng được nhu cầu làm mát của các siêu máy tính hiện nay nên công nghệ làm mát bằng chất lỏng dần trở thành lựa chọn chủ đạo trong ngành. Việc ứng dụng công nghệ làm mát bằng chất lỏng cho phép các trung tâm dữ liệu chứa được nhiều thiết bị điện toán hơn trong cùng một không gian, đồng thời giảm mức tiêu thụ năng lượng của hệ thống làm mát. Việc ứng dụng công nghệ làm mát bằng chất lỏng không chỉ nâng cao hiệu suất tính toán mà còn giảm đáng kể mức tiêu thụ năng lượng và chi phí vận hành. Công nghệ làm mát bằng chất lỏng có thể xử lý nhiều tác vụ điện toán hơn với cùng mức tiêu thụ năng lượng thông qua việc dẫn nhiệt hiệu quả hơn.
Với nhu cầu đào tạo AI và tính toán hiệu năng cao ngày càng tăng, công nghệ làm mát bằng chất lỏng sẽ đóng vai trò quan trọng hơn trong các trung tâm siêu máy tính trong tương lai. Dự kiến, công nghệ làm mát bằng chất lỏng sẽ trở thành cấu hình tiêu chuẩn trong các trung tâm siêu máy tính và trung tâm dữ liệu lớn trong những năm tới để đáp ứng nhu cầu tính toán ngày càng tăng cũng như thách thức về tản nhiệt.
