AI-systemen, bedoeld om uitval te voorkomen, blijken zelf steeds vaker de oorzaak van dure storingen. Uit nieuw onderzoek van Splunk blijkt dat AI-gerelateerde incidenten een groeiend deel van de operationele problemen in bedrijven vormen. Voor ondernemers betekent dit: vertrouw niet blind op AI, maar zorg voor waarborgen.

Wat er aan de hand is

Splunk, een bedrijf gespecialiseerd in data-analyse en IT-monitoring, heeft onderzoek gedaan naar de impact van AI op bedrijfsuitval. De resultaten laten zien dat AI niet alleen oplossingen biedt, maar ook nieuwe risico’s introduceert. Waar AI-systemen ooit werden ingezet om storingen te voorspellen en te voorkomen, zorgen ze nu zelf voor onverwachte onderbrekingen. Het rapport, waarvan Fastcompany de uitkomsten beschrijft, wijst op een paradox: de technologie die beloofde de boel draaiende te houden, creëert een nieuwe categorie van storingen. Denk aan foutieve AI-modellen die verkeerde beslissingen nemen, of aan overbelasting van systemen door AI-gedreven processen.

Wat dit betekent

Voor het MKB is dit een belangrijk signaal. Grote bedrijven hebben vaak teams die AI-systemen monitoren, maar kleinere organisaties missen die capaciteit. Een AI-storing kan directe gevolgen hebben: een klantenservice-chatbot die verkeerde antwoorden geeft, een voorraadsysteem dat onlogische bestellingen plaatst, of een marketingtool die budget opmaakt aan niet-werkende campagnes. De impact is niet alleen financieel, maar ook reputatieschade. Klanten merken het als een AI-systeem hapert. Het onderzoek benadrukt dat bedrijven zich moeten realiseren dat AI geen ‘set it and forget it’-oplossing is. Het vereist continu toezicht, net als elk ander kritisch systeem.

Hoe je dit kunt toepassen

Als je een AI-chatbot inzet voor klantenservice, overweeg om een fallback-systeem in te bouwen. Wanneer de chatbot geen antwoord geeft of onlogisch gedrag vertoont, kun je de vraag automatisch laten doorschakelen naar een menselijke medewerker. Test dit regelmatig door zelf vreemde vragen te stellen. Een mogelijkheid is om een wekelijkse steekproef te doen van chatgesprekken om te controleren of de antwoorden nog kloppen.

Als je AI gebruikt voor voorraadbeheer of prijsoptimalisatie, is het verstandig om een drempelwaarde in te stellen. Bijvoorbeeld: als het systeem een prijswijziging voorstelt van meer dan 20 procent, dan moet een medewerker die eerst goedkeuren. Zo voorkom je dat een foutief model in één keer grote schade aanricht. Je zou ook een logboek kunnen bijhouden van alle AI-beslissingen, zodat je achteraf kunt zien wat er gebeurde bij een storing.

Als je afhankelijk bent van AI-tools van externe leveranciers, vraag dan naar hun storingsprotocollen. Welke garanties geven ze? Hoe snel reageren ze bij problemen? Overweeg om een back-upplan te hebben voor de belangrijkste functies. Een optie is om periodiek een handmatige controle uit te voeren op de output van de AI-tool, bijvoorbeeld door steekproefsgewijs de resultaten te vergelijken met een handmatige berekening.

Als je een team aanstuurt dat met AI werkt, zorg dan dat er iemand verantwoordelijk is voor het monitoren van de AI-systemen. Dat hoeft geen techneut te zijn, maar wel iemand die weet wat normaal gedrag is en afwijkingen kan signaleren. Een eenvoudige manier is om dagelijks een dashboard te bekijken met kerncijfers, zoals het aantal foutmeldingen of de responstijd van het systeem. Bij afwijkingen kun je dan snel ingrijpen.

Bron: Fastcompany