Een ogenschijnlijk bureaucratisch probleem bij AI-bedrijf Anthropic heeft directe, concrete gevolgen voor een van de meest kritieke veiligheidstaken ter wereld: het beperken van de rol van kunstmatige intelligentie bij nucleaire wapens. Het Amerikaanse ministerie van Energie gebruikt het AI-model Claude voor onderzoeksprojecten die precies dat doel hebben. Nu de toegang tot dat model in gevaar komt, dreigen die projecten plotseling stil te vallen. Het incident is geen ver-van-mijn-bed-show voor techneuten, maar een heldere case study in leveranciersafhankelijkheid en operationeel risico voor elke organisatie die AI inzet voor essentiële processen.

Het probleem is administratief, de impact is operationeel

De kern van het conflict is een contractueel en regelgevingsgeschil. Volgens het artikel worstelen Amerikaanse overheidsinstanties met de vraag of ze Claude überhaupt mogen gebruiken. Dit lijkt op het eerste gezicht een juridische kwestie, maar de gevolgen zijn puur operationeel. Onderzoeksteams die afhankelijk zijn van dit specifieke AI-model voor hun werk, kunnen hun werk niet meer doen. Het project stopt niet omdat de technologie faalt, maar omdat de toegang tot de technologie wordt afgesneden door een beslissing op een afdeling die niets met het onderzoek te maken heeft. Voor een ondernemer vertaalt dit zich naar scenario’s waarin een cruciaal softwareplatform, een clouddienst of een gespecialiseerde API plotseling onbeschikbaar wordt vanwege een licentieconflict, een betalingsachterstand bij een andere afdeling, of een wijziging in de servicevoorwaarden.

Waarschuwing tegen single point of failure in AI-strategie

Het geval bij het ministerie van Energie toont het gevaar van een ‘single point of failure’ in een technologiestrategie. Door kritiek onderzoek te bouwen rond één gesloten, propriëtair AI-model van één leverancier, wordt de continuïteit van dat onderzoek volledig overgeleverd aan de relatie met die ene partij. Dit is een risico dat even relevant is voor een middelgroot bedrijf dat zijn klantenservice volledig op één chatbot-platform heeft gebaseerd, als voor een overheid. Wanneer die ene leverancier problemen krijgt – of het nu gaat om financiële moeilijkheden, een beveiligingsincident, of zoals hier, een conflict met een regelgever – valt een essentieel onderdeel van de operatie direct stil. De les is niet om geen AI te gebruiken, maar om de architectuur van die inzet bewust te ontwerpen.

De afweging tussen gemak en controle

Een reden waarom organisaties voor een gesloten model zoals Claude kiezen, is gemak. Het is een kant-en-klare dienst die krachtige mogelijkheden biedt zonder de complexiteit van het zelf hosten of finetunen van open-source alternatieven. Het incident illustreert de keerzijde van dat gemak: een gebrek aan controle. Als de toegang tot het model wordt ingetrokken, is er geen back-up, geen lokale kopie en geen manier om het werk voort te zetten. Voor Nederlandse professionals die AI overwegen voor bedrijfskritieke toepassingen, is dit een cruciaal punt in de afweging. De vraag is niet alleen “wat kan dit model?”, maar ook “wat gebeurt er als we er morgen niet meer bij kunnen?”.

Hoe kun je dit vandaag toepassen?

Een mogelijke stap is om bij de evaluatie van een AI-dienst expliciet het continuity-risico te bespreken. Je zou kunnen vragen naar de exit-procedures, de mogelijkheid om data en modellen te exporteren, en de contractuele garanties rond beschikbaarheid. Een andere optie is om voor cruciale toepassingen een hybride strategie te overwegen, waarbij je niet volledig afhankelijk bent van één gesloten dienst, maar ook open-source tools of meerdere leveranciers in beeld houdt voor essentiële functies. De praktische toepassing hangt af van jouw situatie.

De toepassingen in dit artikel zijn suggesties op basis van het bronartikel, geen gevalideerd advies.

Bron: Fastcompany