Nestejäähdytysratkaisujen nousu tekoälypalvelimissa: TrendForce-analyysi

Oct 03, 2024

Jätä viesti

 

Ⅰ Johdanto

 

TrendForcen viimeisimmän tutkimuksen mukaan nestejäähdytysratkaisujen tunkeutumisasteen odotetaan nousevan jyrkästi NVIDIA Blackwell -alustan odotettavissa olevan toimituksen vuoksi vuoden 2024 viimeisellä neljänneksellä. Tämän asteen ennustetaan kasvavan noin 10 prosentista vuonna 2024 vuoteen 2024 yli 20 % vuonna 2025. Kasvava globaali tietoisuus ympäristö-, sosiaali- ja hallintotekijöistä sekä pilvipalveluntarjoajien nopeutettu tekoälypalvelimien rakentaminen tasoittaa tietä merkittävälle siirtymiselle perinteisestä ilmanjäähdytyksestä kehittyneisiin nestejäähdytysratkaisuihin.

 

Nestejäähdytyksellä on useita etuja ilmajäähdytykseen verrattuna, mukaan lukien parempi lämmönhallinta, alhaisempi melutaso ja parempi energiatehokkuus. Tekoälyominaisuuksien kysynnän kasvaessa erityisesti dataintensiivisissä sovelluksissa siirtyminen nestejäähdytysjärjestelmiin tulee yhä kriittisemmäksi palvelimen optimaalisen suorituskyvyn ylläpitämiseksi.

 

A liquid cooling system installed in an AI server environment, showcasing the advanced cooling technology

▲ Tekoälypalvelinympäristöissä käytetty nestejäähdytysjärjestelmä

 

 

Ⅱ NVIDIAn hallitseva asema tekoälypalvelinmarkkinoilla

 

Maailmanlaajuisilla tekoälypalvelinmarkkinoilla NVIDIA hallitsee edelleen, ja sen markkinaosuus on lähes 90 % GPU AI -palvelinsegmentistä vuodesta 2024 lähtien. AMD on huomattavasti jäljessä noin 8 %:n markkinaosuudella. Tämä hallitseva asema johtuu suurelta osin NVIDIAn huipputeknologiasta ja sen vahvasta ekosysteemistä, joka tukee monenlaisia ​​sovelluksia tekoälyssä, koneoppimisessa ja data-analyysissä.

 

TrendForce huomauttaa, että NVIDIA Blackwellin toimitusmäärä on tänä vuonna suhteellisen pieni. Tämä johtuu pääasiassa siitä, että alustalla on käynnissä lopullinen testaus- ja validointiprosessi toimitusketjussa, mikä edellyttää jatkuvaa optimointia esimerkiksi nopean tiedonsiirron ja jäähdytyksen suunnittelussa. Blackwell-alustan lisääntynyt energiankulutus, erityisesti GB200-telineratkaisussa, edellyttää ylivoimaista jäähdytystehokkuutta, mikä nopeuttaa entisestään nestejäähdytysratkaisujen käyttöönottoa.

 

NVIDIA Blackwell platform designed for high-performance AI server applications

▲ NVIDIA Blackwell -alusta tekoälypalvelimille

 

Nestejäähdytyksen eduista huolimatta tämän tekniikan nykyinen palvelinekosysteemi on edelleen alhainen. Original Design Manufacturer (ODM) -valmistajien on navigoitava oppimiskäyrällä vastatakseen vuotoihin ja jäähdytystehokkuuteen liittyviin haasteisiin. Koska Blackwell-alustan huippuluokan GPU:n osuuden odotetaan ylittävän 80 % vuoteen 2025 mennessä, tämä sytyttää kilpailun virtalähdevalmistajien ja jäähdytysteollisuuden välillä kehittyvillä tekoälyn nestejäähdytysmarkkinoilla, mikä johtaa uuteen kilpailuun.

 

 

 

Ⅲ Nopeutettu käyttöönotto suurten CSP:iden toimesta

 

Suuret pilvipalveluntarjoajat, kuten Google, AWS ja Microsoft, ovat nopeuttaneet tekoälypalvelinten käyttöönottoa nopeasti viime vuosina hyödyntäen pääasiassa NVIDIA-grafiikkasuorittimia ja itse kehitettyjä ASIC-kortteja. NVIDIAn GB200 NVL72 -kaapin lämpösuunnitteluteho (TDP) on noin 140 kW, mikä korostaa nestejäähdytysratkaisujen kiireellistä tarvetta lämmönpoiston tehokkaaseen hallintaan. Liquid-to-Air (L2A) -jäähdytysmenetelmistä odotetaan muodostuvan yleisin lähestymistapa tässä yhteydessä.

 

AI server deployment in modern data centers, highlighting the use of advanced cooling solutions

▲ AI-palvelimen käyttöönotto datakeskuksissa

 

Vaikka NVIDIA:n grafiikkasuorittimet hallitsevat, Google on myös ollut ennakoivasti tutkinut nestejäähdytysratkaisuja Tensor Processing Units (TPU) -yksiköilleen. Googlen sitoutuminen tähän teknologiaan asettaa sen edistyksellisimmäksi yhdysvaltalaisyritykseksi nestejäähdytyksen käyttöönotossa. BOYD ja Cooler Master ovat Googlen kylmälevyjen ensisijaiset toimittajat, jotka ovat kriittisiä optimaalisten lämpötilojen ylläpitämisessä korkean suorituskyvyn laskentaympäristöissä.

 

Manner-Kiinassa Alibaba laajentaa aggressiivisesti nestejäähdytyksen datakeskuksiaan ja korostaa entisestään maailmanlaajuista siirtymistä kohti tätä edistynyttä jäähdytystekniikkaa. Muut pilvipalveluntarjoajat luottavat edelleen ensisijaisesti ilmajäähdytysratkaisuihin itse kehitetyissä AI ASIC:issa, mikä saattaa heikentää suorituskykyä verrattuna nestejäähdytteisiin järjestelmiin.

 

 

Ⅳ Tärkeimmät toimittajat ja komponenttien nimitys

 

Kun siirtyminen nestejäähdytykseen kiihtyy, pilvipalveluntarjoajat nimeävät tärkeimmät komponenttitoimittajat GB200-kaapin nestejäähdytysratkaisuille. Tällä hetkellä Qihong ja Cooler Master ovat johtavia kylmälevyjen toimittajia, kun taas jakotukin komponentit hankitaan Cooler Masterilta ja Shuanghongilta. Jäähdytysnesteen jakeluyksiköitä (CDU) tarjoavat alan johtavat yritykset, kuten Vertiv ja Delta.

 

Keskeisten vuodonestokomponenttien, kuten pikakatkaisijoiden (QD) osalta valmistajat, kuten CPC, Parker Hannifin, Danfoss ja Staubli, ovat vahvasti mukana hankinnassa. Kun lisätoimittajat, kuten Jiazhe ja Fushida, tulevat validointivaiheeseen, heillä on mahdollisuus toimittaa pikakatkaisukomponentteja vuoden 2025 ensimmäisellä puoliskolla, mikä auttaa lieventämään nykyistä kysynnän ja tarjonnan epätasapainoa.

 

Various suppliers involved in the liquid cooling component supply chain for AI servers.

▲ Tärkeimmät nestejäähdytyskomponenttien toimittajat

 

 

Ⅴ Nestejäähdytyksen edut

 

Parannettu jäähdytystehokkuus

Nestejäähdytysjärjestelmät on suunniteltu poistamaan lämpöä tehokkaammin kuin ilmajäähdytysjärjestelmät. Tämä on erityisen tärkeää tekoälysovelluksissa, joissa prosessorit voivat tuottaa huomattavaa lämpöä korkeiden laskentavaatimusten vuoksi. Käyttämällä nestettä lämmön imemiseen ja siirtämiseen pois komponenteista palvelimet voivat toimia alemmissa lämpötiloissa, mikä vähentää lämpökuristuksen riskiä ja parantaa suorituskykyä.

 

Avaruuden optimointi

Nestejäähdytysjärjestelmät vievät usein vähemmän tilaa kuin perinteiset ilmajäähdytysratkaisut, mikä mahdollistaa tehokkaamman palvelinkeskuksen suunnittelun. Tämä tilaa säästävä ominaisuus on erityisen hyödyllinen organisaatioille, jotka haluavat maksimoida palvelinkapasiteettinsa laajentamatta fyysistä jalanjälkeään.

 

Energiatehokkuus

Kun keskitytään entistä enemmän kestävään kehitykseen ja energiatehokkuuteen, nestejäähdytysratkaisut voivat auttaa vähentämään datakeskusten kokonaisenergiankulutusta. Minimoimalla riippuvuuden tuulettimiin ja ilmastointilaitteisiin nestejäähdytys voi alentaa energiakustannuksia ja hiilijalanjälkeä, mikä vastaa ESG:n tavoitteita, joita monet yritykset pyrkivät saavuttamaan.

 

Melunvaimennus

Nestejäähdytysjärjestelmät toimivat hiljaisemmin kuin perinteiset ilmajäähdytteiset järjestelmät, mikä tekee palvelinkeskuksista miellyttävämmän työympäristön. Tämä melunvaimennus on tärkeä näkökohta asutusalueiden lähellä tai toimistorakennuksissa sijaitsevissa tiloissa.

 

 

Ⅵ Yleisiin haasteisiin vastaaminen

 

Eduista huolimatta siirtyminen nestejäähdytykseen tuo mukanaan haasteita. Näitä ovat:

 

Alkukustannukset

Ennakkoinvestointi nestejäähdytysjärjestelmiin voi olla suurempi kuin perinteiset ilmajäähdytysratkaisut. Organisaatioiden on punnittava näitä kustannuksia pitkän aikavälin hyötyihin ja energiatehokkuuden ja kunnossapidon säästöihin nähden.

 

Vuotohuolet

Yksi merkittävimmistä nestejäähdytykseen liittyvistä haasteista on vuotojen riski. Oikea suunnittelu, materiaalien valinta ja huoltoprotokollat ​​ovat välttämättömiä tämän riskin vähentämiseksi ja järjestelmän luotettavuuden varmistamiseksi.

 

Huollon monimutkaisuus

Nestejäähdytysjärjestelmät vaativat monimutkaisempaa huoltoa kuin ilmajäähdytteiset järjestelmät. Organisaatioiden on koulutettava henkilöstönsä tai otettava käyttöön erikoistuneet palveluntarjoajat varmistaakseen, että nestejäähdytysratkaisut pysyvät tehokkaina ja ongelmattomina.

 

 

Ⅶ Nestejäähdytyksen tulevaisuuden trendit

 

Tekoälytekniikan kysynnän kasvaessa edelleen useiden tulevaisuuden trendien odotetaan muokkaavan nestejäähdytysmaisemaa:

 

Hybridiratkaisujen käyttöönotto

Hybridijäähdytysjärjestelmät, joissa yhdistyvät sekä ilma- että nestejäähdytysteknologiat, saavat todennäköisesti vetoa. Nämä järjestelmät voivat tarjota joustavuutta ja tehokkuutta ja mukautua erilaisiin työkuormiin ja toiminnallisiin tarpeisiin.

 

Edistyneet materiaalit

Kehittyneiden materiaalien kehittäminen nestejäähdytyskomponenteille voi parantaa suorituskykyä ja luotettavuutta. Materiaalitieteen innovaatiot voivat johtaa kevyempiin, kestävämpiin ja tehokkaampiin jäähdytysratkaisuihin.

 

Integrointi tekoälyn ja IoT:n kanssa

Tekoäly- ja IoT-tekniikoiden integrointi jäähdytysjärjestelmiin voi optimoida suorituskyvyn mahdollistamalla reaaliaikaisen seurannan ja automatisoidut säädöt ympäristöolosuhteiden ja palvelinten kuormituksen perusteella.

 

Kestävän kehityksen painopiste

Kun yritykset asettavat yhä enemmän kestävän kehityksen etusijalle, ympäristöystävällisiä jäähdytysnesteitä ja materiaaleja käyttävät nestejäähdytysratkaisut yleistyvät. Teollisuus saattaa nähdä siirtymisen kohti suljetun kierron järjestelmiä jätteen ja ympäristövaikutusten minimoimiseksi.

 

 Future trends in liquid cooling technology

▲ Nestejäähdytystekniikan tulevaisuuden trendit

 

 

 

Ⅷ Johtopäätös

 

Siirtyminen ilmajäähdytysratkaisuista nestejäähdytysratkaisuihin tekoälypalvelimissa edustaa merkittävää evoluutiota alalla tekniikan kehityksen ja tehokkaan lämmönhallinnan kasvavan kysynnän myötä. Kun NVIDIA johtaa tekoälypalvelinmarkkinoita ja suuret pilvipalveluntarjoajat, kuten Google, tutkivat aktiivisesti nestejäähdytysvaihtoehtoja, tilanne muuttuu nopeasti.

 

Ymmärtämällä nestejäähdytyksen edut ja haasteet sekä sen toteuttamiseen osallistuvat avainhenkilöt organisaatiot voivat paremmin hyödyntää tätä tekniikkaa suorituskyvyn, kestävyyden ja kilpailukyvyn parantamiseksi tekoälymaailmassa. Alan edetessä nestejäähdytysratkaisuilla tulee olemaan ratkaiseva rooli palvelinkeskusten tulevaisuuden muovaamisessa, sillä ne voivat vastata seuraavan sukupolven tekoälysovellusten vaatimuksiin.

 

 

 

 

Lähetä kysely