Szybki wzrost obciążeń związanych ze szkoleniem i wnioskowaniem w zakresie sztucznej inteligencji spowodował, że zarządzanie ciepłem w centrum danych znacznie przekroczyło granice tradycyjnego chłodzenia powietrzem. Nowoczesne chipy akceleratorów AI rutynowo pobierają kilkaset watów każdy, a gęste szafy serwerowe wypełnione tymi akceleratorami mogą generować obciążenia cieplne, do obsługi których infrastruktura chłodzenia powietrzem nigdy nie była zaprojektowana. To jest środowisko, w którym precyzyjne części do chłodzenia cieczą serwerów AI stały się niezbędne, a nie opcjonalne — płyty chłodzące, kolektory, szybkozłącza i pompy zaprojektowane tak, aby usuwać ciepło bezpośrednio z najgorętszych komponentów z wąskimi tolerancjami i wyjątkową niezawodnością. W tym artykule zbadano, czym są te komponenty, dlaczego inżynieria precyzyjna ma tak duże znaczenie w tym zastosowaniu oraz co operatorzy centrów danych i integratorzy systemów powinni zrozumieć przy określaniu sprzętu do chłodzenia cieczą dla infrastruktury AI.
Tradycyjne chłodzenie centrum danych opiera się na tłoczeniu schłodzonego powietrza przez komponenty serwera i odprowadzaniu ciepła na drodze konwekcji. To podejście sprawdzało się przez dziesięciolecia obliczeń ogólnego przeznaczenia, gdzie poszczególne procesory zazwyczaj rozpraszały znacznie poniżej 150 watów. Jednak akceleratory AI używane do uczenia i wnioskowania modeli na dużą skalę często rozpraszają od 400 do 700 watów lub więcej na chip, a pojedynczy serwer może zawierać osiem lub więcej takich akceleratorów wraz z obsługą procesorów, pamięci i sprzętu sieciowego.
Przy tej gęstości mocy powietrze po prostu nie jest w stanie wystarczająco szybko odprowadzać ciepła bez konieczności stosowania ogromnych objętości przepływu powietrza, zbyt dużych radiatorów i odpowiednio wysokiego zużycia energii przez wentylatory, co samo w sobie jest znaczącym i rosnącym czynnikiem wpływającym na ogólne zużycie energii w centrum danych. Chłodzenie cieczą rozwiązuje ten problem zasadniczo, ponieważ płynny płyn chłodzący może absorbować i transportować znacznie więcej ciepła na jednostkę objętości niż powietrze, dzięki czemu znacznie mniejsze, bardziej ukierunkowane komponenty chłodzące radzą sobie z tym samym obciążeniem termicznym.
Zamiast chłodzić całą szafę serwerową cieczą, większość nowoczesnych architektur chłodzenia cieczą AI wykorzystuje podejście direct-to-chip, w którym płyta chłodząca jest montowana bezpośrednio na komponentach nagrzewających się najbardziej — zazwyczaj na procesorze graficznym lub pakiecie akceleratorów AI, a czasami na procesorze — podczas gdy płyn chłodzący krąży wewnętrznymi kanałami w tej płycie chłodzącej, pochłaniając ciepło u źródła, zanim będzie mogło rozprzestrzenić się po pozostałej części obudowy serwera.
W przeciwieństwie do ogólnego przemysłowego sprzętu chłodzącego, części do chłodzenia cieczą serwerów AI działają pod niezwykle rygorystycznymi ograniczeniami fizycznymi, termicznymi i dotyczącymi niezawodności, dlatego też inżynieria „wysoko precyzyjna” nie jest frazą marketingową, ale prawdziwym wymaganiem technicznym.
Podstawa zimnej płyty musi znajdować się w niemal idealnym płaskim kontakcie z pakietem chipów, aby zminimalizować opór cieplny na styku. Nawet mikroskopijne nieregularności powierzchni mogą powodować powstawanie szczelin powietrznych, które znacznie zmniejszają efektywność wymiany ciepła, dlatego też powierzchnie bazowe zimnej płyty są zwykle produkowane z bardzo wąskimi tolerancjami płaskości i wykończenia powierzchni, często mierzonymi w jednocyfrowych mikrometrach.
Wewnątrz nowoczesnej płyty chłodzącej ciepło jest często usuwane poprzez szereg niezwykle drobnych wewnętrznych mikrokanalików lub struktur żeberek, które maksymalizują powierzchnię styku chłodziwa z metalową podstawą. Struktury te muszą być wytwarzane z dużą dokładnością wymiarową, aby osiągnąć zaprojektowaną charakterystykę przepływu i współczynniki przenikania ciepła — niespójne wymiary kanałów mogą powodować nierówny rozkład przepływu, zlokalizowane gorące punkty i zmniejszoną ogólną wydajność chłodzenia.
Serwery AI wykorzystujące chłodzenie cieczą działają nieprzerwanie, często przez lata, pod stałym wewnętrznym ciśnieniem płynu. Jakakolwiek awaria uszczelki lub złącza stwarza ryzyko nie tylko wydajności chłodzenia, ale także potencjalnego wycieku płynu chłodzącego na wrażliwy, kosztowny sprzęt elektroniczny. To sprawia, że projekt uszczelnienia, dobór materiału uszczelki i tolerancje produkcyjne dopasowania są kluczowym problemem inżynierii precyzyjnej w całej pętli chłodzenia cieczą.
Centra danych Hyperscale AI wdrażają komponenty chłodzenia cieczą na tysiącach serwerów jednocześnie. Spójność produkcji — zapewnienie, że tysięczna płyta chłodząca działa identycznie jak pierwsza — ma kluczowe znaczenie dla przewidywalnej, jednolitej wydajności cieplnej w całej flocie, a wszelkie różnice między częściami mogą powodować brak równowagi termicznej, który wpływa na wydajność, niezawodność lub żywotność chipów.
Płyty zimne to elementy mające bezpośredni kontakt termiczny z chipem generującym ciepło, zwykle wykonane z miedzi lub aluminium ze względu na ich doskonałą przewodność cieplną. Wewnętrznie płyty chłodzące posiadają specjalnie zaprojektowane struktury kanałów lub żeberek, zaprojektowane tak, aby zmaksymalizować kontakt chłodziwa z podgrzewaną powierzchnią, jednocześnie minimalizując spadek ciśnienia na płycie, równoważąc wydajność chłodzenia z mocą pompowania wymaganą do cyrkulacji chłodziwa w systemie.
Kolektory distribute coolant from a central supply line to multiple individual servers or components within a rack, and collect returning heated coolant back into the main loop. Rack-level manifolds must be precisely engineered to balance flow evenly across all connected servers, since uneven flow distribution can leave some servers under-cooled relative to others, even within the same rack.
Ponieważ serwery w środowisku chłodzonym cieczą muszą nadawać się do użytku — demontaż, naprawa lub wymiana bez opróżniania całej pętli chłodzącej — szybkozłącza (QD) są kluczowym elementem. Wysoce precyzyjne złącza QD zostały zaprojektowane tak, aby zapewnić niezawodne i spójne uszczelnienie podczas tysięcy cykli łączenia-rozłączania, przy minimalnym wycieku chłodziwa (często określane jako konstrukcje „bezkapowe” lub „o niskim kapaniu”) podczas czynności serwisowych.
Pompy circulate coolant through the cooling loop at controlled flow rates and pressures. In AI server applications, pump reliability is especially critical since pump failure can quickly lead to thermal throttling or shutdown of high-value compute hardware; many systems incorporate redundant pump configurations to maintain cooling continuity even if a single pump unit fails.
CDU działa jako interfejs między podstawową infrastrukturą chłodzącą obiektu a pętlą chłodzenia cieczą na poziomie serwera, często izolując dwa obiegi płynu, aby chronić wrażliwe komponenty po stronie serwera przed problemami z jakością wody w obiekcie, zapewniając jednocześnie monitorowanie przepływu, filtrację i wykrywanie wycieków w scentralizowanym punkcie.
Czujniki temperatury, natężenia przepływu i ciśnienia zintegrowane w pętli chłodzenia cieczą dostarczają danych w czasie rzeczywistym potrzebnych do wykrycia rozwijających się problemów — takich jak częściowo zablokowana płyta chłodząca lub powolny wyciek — zanim przełożą się one na uszkodzenie sprzętu lub nieplanowane przestoje.
| Komponent | Funkcja podstawowa | Kluczowe wymagania dotyczące precyzji |
|---|---|---|
| Zimny talerz | Bezpośrednie odprowadzanie ciepła na poziomie wiórów | Płaskość podstawy, dokładność mikrokanałowa |
| Kolektor | Dystrybucja chłodziwa pomiędzy serwerami | Zrównoważony przepływ na wszystkich połączeniach |
| Szybkozłącze | Sprawne i szczelne połączenia | Niezawodne uszczelnienie w powtarzalnych cyklach |
| Pompa | Cyrkulacja chłodziwa | Stałe natężenie przepływu i ciśnienie, niezawodność |
| CDU | Interfejs pętli obiekt-serwer | Filtracja, izolacja, dokładność monitorowania |
| Czujniki | Monitorowanie stanu w czasie rzeczywistym | Dokładność pomiaru i czas reakcji |
Miedź remains the preferred material for cold plate construction due to its excellent thermal conductivity, allowing efficient heat transfer from the chip surface into the circulating coolant. Copper cold plates are often manufactured using precision machining, skiving, or additive manufacturing techniques to produce the fine internal channel structures needed for optimal performance.
Aluminium offers a lighter-weight, generally lower-cost alternative to copper, with somewhat lower thermal conductivity. Aluminum components are sometimes used in manifolds or larger structural cooling parts where weight and cost considerations outweigh the marginal thermal conductivity advantage copper would provide in those specific locations.
Złączki, obudowy szybkozłącza i korpusy kolektorów są często wykonane ze stali nierdzewnej lub wysokowydajnych polimerów konstrukcyjnych wybranych pod kątem odporności na korozję, stabilności wymiarowej i zgodności ze specyficznym składem chemicznym chłodziwa stosowanego w układzie.
Wybór materiału uszczelnienia ma kluczowe znaczenie dla długoterminowego zapobiegania wyciekom, przy czym materiały są wybrane pod kątem zgodności ze składem chemicznym chłodziwa, odporności na degradację w ciągu lat ciągłej pracy i stałej skuteczności uszczelnienia w całym zakresie temperatur, w jakim występuje system.
Komputerowa obróbka sterowana numerycznie umożliwia precyzyjne usuwanie materiału w celu utworzenia wewnętrznych struktur kanałów i uzyskania ściśle kontrolowanej płaskości podstawy, zapewniając wysoką dokładność w przypadku projektów płyt zimnych z dobrze zdefiniowanymi geometrycznymi wzorami kanałów.
Skoki is a specialized manufacturing process that shaves extremely thin fins directly from a solid block of copper or aluminum, creating dense, high-surface-area fin structures within a cold plate while maintaining strong thermal continuity between the fins and the base material.
Wiele konstrukcji płyt zimnych składa się z wielu obrobionych maszynowo lub tłoczonych warstw, połączonych ze sobą za pomocą technik lutowania twardego – często lutowania próżniowego w celu uzyskania najwyższej integralności połączenia – w celu utworzenia szczelnej, pozbawionej wycieków struktury kanałów wewnętrznych bez wprowadzania oporu termicznego na złączu.
Produkcja przyrostowa metali jest coraz częściej stosowana do produkcji zimnych płyt o bardzo złożonej geometrii wewnętrznej, której osiągnięcie w przypadku tradycyjnej obróbki byłoby trudne lub niemożliwe, co pozwala inżynierom na optymalizację struktur kanałów specjalnie pod kątem rozkładu ciepła w danym chipie.
Płytki chłodzące i szersze elementy układu chłodzenia muszą być dobrane i zaprojektowane tak, aby odpowiadały określonej mocy cieplnej docelowego układu, ponieważ zbyt mała wydajność chłodzenia może prowadzić do dławienia termicznego, które bezpośrednio zmniejsza wydajność obliczeniową AI, podczas gdy nadmierna pojemność może powodować niepotrzebne koszty i złożoność systemu.
W różnych układach chłodzenia cieczą stosuje się różne formuły chłodziwa, począwszy od uzdatnionych mieszanin wody i glikolu po specjalistyczne płyny dielektryczne. Wszystkie zwilżane komponenty — płyty chłodzące, kolektory, uszczelki i złączki — muszą zostać sprawdzone pod kątem zgodności chemicznej z konkretnym używanym płynem chłodzącym, aby zapobiec korozji, degradacji uszczelek lub zanieczyszczeniu płynu chłodzącego w miarę upływu czasu.
Każda płyta chłodząca i kolektor powodują pewien spadek ciśnienia w całej pętli chłodzącej. Projektanci systemów muszą zrównoważyć natężenie przepływu potrzebne do zapewnienia odpowiedniej wydajności chłodzenia ze skumulowanym spadkiem ciśnienia w całej pętli, co bezpośrednio wpływa na dobór pompy i całkowite zużycie energii przez system.
Biorąc pod uwagę skalę wdrożeń centrów danych AI, komponenty chłodzące muszą obsługiwać wydajne procedury serwisowe o niskim ryzyku, w tym niezawodne szybkozłącza, które umożliwiają demontaż i ponowną instalację poszczególnych serwerów bez konieczności opróżniania i ponownego napełniania całej pętli chłodzącej szafy.
Biorąc pod uwagę dużą wartość chronionego sprzętu obliczeniowego, solidne systemy wykrywania wycieków oraz konfiguracje nadmiarowych pomp lub ścieżek przepływu są coraz częściej uważane za standardowe wymagania, a nie opcjonalne dodatki we wdrożeniach infrastruktury AI o znaczeniu krytycznym.
Oczekuje się, że centra danych AI będą działać nieprzerwanie przez lata, dlatego długoterminowa niezawodność komponentów chłodzenia cieczą jest tak samo ważna, jak ich początkowa wydajność cieplna. Zmęczenie podzespołów, degradacja składu chemicznego płynu chłodzącego w czasie oraz stopniowe zużycie uszczelek i złączek w wyniku powtarzających się cykli termicznych to czynniki uwzględniane przez renomowanych producentów w testach walidacyjnych projektu, często obejmujących przyspieszone testy trwałości w celu symulacji lat naprężeń eksploatacyjnych w skróconych ramach czasowych testów przed wypuszczeniem produktu na rynek.
Nawet w przypadku uszlachetnionego chłodziwa długoterminowa eksploatacja może prowadzić do stopniowej korozji lub osadzania się minerałów w mikrokanałach płyty zimnej, jeśli skład wody nie jest odpowiednio utrzymywany, co z czasem może zmniejszyć wydajność chłodzenia. Precyzyjne komponenty wykonane z materiałów odpornych na korozję w połączeniu z odpowiednim uzdatnianiem i filtracją wody na miejscu pomagają zminimalizować to ryzyko.
Rutynowe monitorowanie natężenia przepływu, różnic ciśnień i składu płynu chłodzącego w połączeniu z planową wymianą filtra oraz okresową kontrolą złączek i uszczelek zapewnia długoterminową niezawodność systemu i pomaga operatorom identyfikować rozwijające się problemy, zanim wpłyną one na czas pracy serwera.
Ponieważ pobór mocy akceleratora AI stale rośnie z pokolenia na pokolenie, konstrukcje płyt zimnych i pętli chłodzących muszą stale ewoluować, aby wytrzymać większe obciążenia cieplne w ramach podobnych lub nawet mniejszych rozmiarów fizycznych, napędzając ciągłe innowacje w projektowaniu mikrokanalików i inżynierii materiałowej.
W miarę wzrostu stosowania chłodzenia cieczą w branży centrów danych rośnie zainteresowanie standaryzacją niektórych wymiarów interfejsów i typów połączeń komponentów chłodzących, mając na celu poprawę interoperacyjności pomiędzy różnymi producentami serwerów i dostawcami infrastruktury chłodzącej.
Oprócz tradycyjnego jednofazowego chłodzenia cieczą niektórzy producenci opracowują dwufazowe komponenty chłodzące, w których chłodziwo częściowo odparowuje podczas pochłaniania ciepła, oferując potencjał jeszcze wyższej wydajności usuwania ciepła na jednostkę przepływu chłodziwa, chociaż takie podejście wprowadza dodatkową złożoność inżynieryjną w zakresie zarządzania fazami i kontroli ciśnienia w systemie.
Rosnąca integracja czujników i analityki danych bezpośrednio z komponentami chłodzącymi umożliwia bardziej wyrafinowane podejście do konserwacji predykcyjnej, umożliwiając operatorom centrów danych przewidywanie zużycia komponentów lub pojawiających się problemów, zanim spowodują one nieplanowane przestoje.
Precyzyjne części do chłodzenia cieczą serwerów AI stały się podstawową infrastrukturą nowoczesnych centrów danych AI, umożliwiając niezawodne i wydajne zarządzanie ekstremalnymi gęstościami mocy wymaganymi przez dzisiejsze akceleratory AI. Od ściśle tolerowanych płyt zimnych i zrównoważonych kolektorów po niezawodne szybkozłącza i nadmiarowe pompy – każdy element pętli chłodzenia cieczą musi spełniać wysokie standardy precyzji i niezawodności, aby chronić cenny sprzęt obliczeniowy i zapewniać ciągłą pracę na dużą skalę. Ponieważ obciążenia sztucznej inteligencji w dalszym ciągu zwiększają zużycie energii przez układy scalone, inżynieria stojąca za tymi komponentami pozostanie krytycznym, szybko rozwijającym się obszarem infrastruktury centrum danych, bezpośrednio kształtując wydajność i niezawodność następnej generacji obliczeń AI.
Szybki wzrost obciążeń związanych ze szkoleniem i wnioskowaniem w zakresie sztucznej inteligencji spowodował, że zarządzanie ciepłem w centrum danych znacznie przekroczyło granice tradycyjnego c...
Szybki wzrost obciążeń związanych ze sztuczną inteligencją postawił bezprecedensowe wymagania wobec infrastruktury centrów danych, szczególnie w obszarze zarządzania ciepłem. Ponieważ procesory ...
The rapid expansion of artificial intelligence workloads has placed unprecedented thermal demands on computing hardware, driving a corresponding evolution in the precision engineering required t...
Precyzyjnie obrabiane części samochodowe CNC to komponenty wytwarzane w sterowanych komputerowo subtraktywnych procesach produkcyjnych — toczeniu, frezowaniu, wierceniu, szlifowaniu i obróbce...
Co to jest precyzyjna obróbka CNC Precyzyjna obróbka CNC to sterowany komputerowo proces produkcyjny, który usuwa materiał z półwyrobów metalowych lub plastikowych za pomocą narzędzi skraw...
W produkcji metodą obróbki CNC poprawa wydajności nie tylko zwiększa moce produkcyjne, ale także skutecznie obniża koszty produkcji i skraca cykle dostaw, stanowiąc kluczowy filar utrzymania konkur...