AI-workloads produceren zoveel warmte dat traditionele luchtkoeling in datacenters zijn grens bereikt. De overstap naar vloeistofkoeling wordt daardoor een strategische keuze die direct invloed heeft op de beschikbaarheid, kosten en betrouwbaarheid van AI-rekenkracht in Nederland. Voor ondernemers die AI willen inzetten, betekent dit dat de locatie en koeltechniek van een datacenter steeds belangrijker worden voor de prestaties en prijs van hun projecten.

Wat er aan de hand is

Moderne AI-chips, zoals Nvidia’s H100- en Blackwell-GPU’s, verbruiken honderden tot meer dan duizend watt per chip. Een AI-server met meerdere GPU’s komt daardoor gemakkelijk boven de tien tot twintig kilowatt uit, terwijl complete racks inmiddels richting 150 tot 250 kilowatt bewegen. Ter vergelijking: traditionele CPU-servers blijven vaak onder de tien kilowatt per rack. Volgens Schneider Electric, een grote speler in datacenterinfrastructuur, produceren moderne AI-workloads twintig tot vijftig keer meer warmte dan traditionele serveromgevingen. De praktische grens van luchtkoeling ligt volgens het bedrijf rond tachtig kilowatt per rack. Daarboven wordt vloeistofkoeling feitelijk noodzakelijk. Dit vraagstuk speelt tijdens een internationaal persevenement van Schneider Electric in Buffalo, New York, waar de opmars van vloeistofkoeling centraal stond.

Wat dit betekent

Voor Nederland is dit geen louter technisch vraagstuk. Ruimte en netcapaciteit zijn hier schaars. Datacenters die AI-rekenkracht leveren, moeten efficiënter koelen om binnen hun energiebudget en fysieke ruimte te blijven. Vloeistofkoeling kan de vermogensdichtheid per vierkante meter verhogen, waardoor meer rekenkracht op dezelfde oppervlakte mogelijk is. Dat is cruciaal omdat netcongestie de aanleg van nieuwe datacenters beperkt. Voor ondernemers betekent dit dat datacenters die vloeistofkoeling toepassen, mogelijk betere beschikbaarheid en lagere operationele kosten kunnen bieden voor AI-workloads. Tegelijkertijd kan de overstap leiden tot hogere investeringskosten voor datacenters, die mogelijk worden doorberekend aan klanten. De keuze voor een datacenter wordt daarmee niet alleen een kwestie van locatie, maar ook van koeltechniek.

Hoe je dit kunt toepassen

Als je AI-projecten draait of overweegt in een bestaand datacenter: Vraag je hostingprovider of datacenter welke koeltechniek ze gebruiken voor AI-workloads. Als ze nog uitsluitend luchtkoeling inzetten, kan de prestaties van jouw GPU’s beperkt worden door oververhitting. Overweeg om te vragen naar de maximale vermogensdichtheid per rack die ze aankunnen. Als die onder de tachtig kilowatt ligt, loop je mogelijk tegen grenzen aan bij zwaardere AI-toepassingen.

Als je een eigen serverruimte beheert voor AI-berekeningen: Houd rekening met de warmteproductie van moderne GPU’s. Een enkele AI-server kan al meer dan twintig kilowatt verbruiken. Luchtkoeling alleen is dan vaak niet meer toereikend. Je zou kunnen onderzoeken of een direct-to-chip vloeistofkoeling of een immersiekoeling haalbaar is in jouw ruimte. Dit vergt een investering, maar kan de levensduur van je hardware verlengen en stroomuitval door oververhitting voorkomen.

Als je een AI-dienstverlener selecteert voor een project: Vraag expliciet naar de koelinfrastructuur van hun datacenter. Een provider die vloeistofkoeling gebruikt, kan waarschijnlijk hogere rekendichtheid en stabielere prestaties leveren voor trainingsworkloads. Dit is vooral relevant als je grote modellen traint of realtime inferencing nodig hebt. Een mogelijkheid is om een proefperiode af te spreken waarin je de prestaties onder belasting meet.

Als je een nieuw datacenter overweegt voor AI-workloads: Kies bij voorkeur een locatie die vloeistofkoeling ondersteunt of kan implementeren. Dit kan op termijn lagere operationele kosten opleveren, omdat vloeistofkoeling energiezuiniger is dan luchtkoeling bij hoge vermogensdichtheden. Overweeg om een contract af te sluiten met een datacenter dat flexibel kan opschalen in koelcapaciteit naarmate jouw AI-behoefte groeit.

Bron: Computable