AI-workloads produceren twintig tot vijftig keer meer warmte dan traditionele serveromgevingen, waardoor luchtkoeling in datacenters zijn praktische grens bereikt. Vloeistofkoeling wordt daarmee een strategische factor die de beschikbaarheid en prijs van AI-rekenkracht voor Nederlandse bedrijven gaat bepalen.

Wat er aan de hand is

Moderne AI-chips, zoals Nvidia’s H100- en Blackwell-GPU’s, verbruiken honderden tot meer dan duizend watt per chip. Een AI-server met meerdere GPU’s komt daardoor boven de tien tot twintig kilowatt uit, terwijl complete racks inmiddels richting 150 tot 250 kilowatt bewegen. Volgens Schneider Electric, dat tijdens een persevenement in Buffalo de ontwikkeling toelichtte, ligt de praktische grens van luchtkoeling rond tachtig kilowatt per rack. Daarboven wordt vloeistofkoeling feitelijk noodzakelijk.

In Nederland is dit geen louter technisch vraagstuk. Ruimte en netcapaciteit zijn schaars, en netcongestie beperkt de groei van nieuwe datacenters. De opmars van generatieve AI en high-performance computing vergroot niet alleen de vraag naar rekenkracht, maar ook naar efficiënte koeling. Liquid cooling ontwikkelt zich volgens Schneider Electric snel van nichetoepassing tot strategische infrastructuur.

Wat dit betekent

Voor ondernemers die AI-toepassingen gebruiken of overwegen, heeft deze verschuiving directe gevolgen. Datacenters die vloeistofkoeling implementeren, kunnen hogere vermogensdichtheden aan. Dat betekent dat ze meer AI-rekenkracht op dezelfde oppervlakte kunnen leveren, zonder dat de koeling de bottleneck wordt. In een markt waar de vraag naar GPU-capaciteit explosief stijgt, kan dit het verschil maken tussen beschikbaarheid en wachttijden.

Tegelijkertijd zijn de investeringen in vloeistofkoeling aanzienlijk. Datacenters moeten hun infrastructuur aanpassen, wat kosten met zich meebrengt die mogelijk worden doorberekend aan gebruikers. Maar op de langere termijn kan efficiëntere koeling leiden tot lagere operationele kosten, omdat er minder energie verloren gaat aan ventilatoren en airconditioning. Voor Nederlandse bedrijven die afhankelijk zijn van cloud-AI-diensten, kan dit de prijsontwikkeling van rekenkracht beïnvloeden.

Daarnaast raakt deze ontwikkeling aan de Nederlandse ambitie om een rol te blijven spelen in de Europese AI-infrastructuur. Als datacenters hier niet kunnen opschalen door beperkingen in koeling en netcapaciteit, kan AI-rekenkracht schaarser en duurder worden voor lokale bedrijven.

Hoe je dit kunt toepassen

Als je AI-diensten afneemt van cloudproviders, kun je nu al informeren naar de koeltechnologie die jouw provider gebruikt. Vraag of ze vloeistofkoeling toepassen voor hun AI-workloads. Providers die overstappen, kunnen op termijn stabielere prestaties en mogelijk lagere kosten bieden. Het is een signaal dat ze voorbereid zijn op de groeiende vraag naar rekenkracht.

Als je zelf overweegt AI-modellen te trainen of te draaien, is het goed om te weten dat de keuze voor een datacenter of cloudregio invloed heeft op de beschikbaarheid van GPU-capaciteit. Regio’s waar vloeistofkoeling wordt uitgerold, hebben mogelijk een voorsprong in het leveren van krachtige AI-rekenkracht. Overweeg om bij het selecteren van een cloudprovider te vragen naar hun koelstrategie en hoe ze omgaan met warmte van AI-workloads.

Als je een IT-afdeling hebt die eigen servercapaciteit beheert, kun je nu al nadenken over de koelbehoefte van toekomstige AI-hardware. Als je overweegt GPU-servers aan te schaffen, check dan of je huidige koeling voldoende is. De praktische grens van luchtkoeling ligt rond tachtig kilowatt per rack. Als je richting dat vermogen gaat, is vloeistofkoeling een optie om te onderzoeken. Je kunt een gesprek aangaan met je leverancier over de mogelijkheden van direct-to-chip cooling of immersion cooling.

Als je een ondernemer bent die afhankelijk is van AI-tools voor dagelijkse processen, zoals chatbots, beeldherkenning of data-analyse, dan merk je deze ontwikkeling indirect. De beschikbaarheid en prijs van de API’s die je gebruikt, worden mede bepaald door de infrastructuur erachter. Het is zinvol om leveranciers van AI-diensten te vragen naar hun plannen voor infrastructuur en koeling. Dit geeft je een beeld van hun schaalbaarheid en prijsstabiliteit op de lange termijn.

Bron: Computable