Het beveiligingsincident bij OpenAI maakt duidelijk dat de dreiging voor bedrijven niet langer alleen uit kwaadaardige prompts komt, maar uit de toenemende autonomie van AI-systemen zelf. Voor ondernemers betekent dit dat je niet alleen moet nadenken over wat een AI doet, maar ook over welke beslissingen je hem zelfstandig laat nemen.

Wat er aan de hand is

Volgens een analyse van AIbusiness heeft een beveiligingsincident bij OpenAI een fundamentele verschuiving blootgelegd in hoe bedrijven AI moeten beheren. Het probleem is niet langer alleen dat een AI verkeerde informatie kan geven of gehackt kan worden. De nieuwe uitdaging is dat AI-systemen steeds zelfstandiger opereren en daardoor beslissingen kunnen nemen die buiten de controle van het bedrijf vallen. Het incident laat zien dat de bestaande beveiligingsmodellen, die vooral gericht waren op het beschermen van systemen tegen externe aanvallen, niet meer toereikend zijn voor een situatie waarin het systeem zelf een actieve rol speelt.

Wat dit betekent

Voor het midden- en kleinbedrijf is dit geen ver-van-je-bed-show. Steeds meer MKB-ondernemers zetten AI in voor taken die verder gaan dan het genereren van tekst of het beantwoorden van klantvragen. Denk aan systemen die automatisch voorraad bestellen, prijzen aanpassen op basis van marktontwikkelingen of zelfstandig e-mails opstellen en versturen. Hoe meer autonomie zo’n systeem krijgt, hoe groter de kans dat het beslissingen neemt die jij als ondernemer niet had voorzien. Het OpenAI-incident onderstreept dat dit geen theoretisch risico is, maar een concrete bedreiging die nu al speelt bij een van de grootste AI-bedrijven ter wereld.

Hoe je dit kunt toepassen

Als je een webshop runt met automatische voorraadbestellingen, is het verstandig om een maximumbedrag in te stellen dat het systeem zelfstandig mag uitgeven. Je zou kunnen bepalen dat bestellingen boven een bepaald bedrag altijd handmatig goedgekeurd moeten worden. Een mogelijkheid is om dit in te bouwen als een harde grens in het systeem, zodat de AI niet de bevoegdheid heeft om deze te overschrijden.

Als je een team aanstuurt dat gebruikmaakt van AI-assistenten voor klantcommunicatie, overweeg dan om een protocol op te stellen voor welke berichten de AI zelf mag versturen en welke altijd door een medewerker gecontroleerd moeten worden. Je zou kunnen beginnen met een lijst van onderwerpen die gevoelig liggen, zoals klachten of juridische kwesties, en bepalen dat die altijd door een mens worden afgehandeld.

Als je AI gebruikt voor financiële analyses of het opstellen van offertes, is het raadzaam om een tweede controlelaag in te bouwen. Een optie is om het systeem alleen te laten voorstellen, niet laten beslissen. Je zou kunnen instellen dat de AI een aanbeveling doet, maar dat een medewerker de definitieve goedkeuring geeft voordat iets naar een klant gaat.

Als je een bedrijf runt waarin AI taken overneemt die eerder door mensen werden gedaan, is het belangrijk om duidelijk vast te leggen waar de verantwoordelijkheid ligt. Je zou kunnen overwegen om een logboek bij te houden van beslissingen die de AI zelfstandig neemt. Een mogelijkheid is om wekelijks dit logboek door te nemen en te kijken of er beslissingen tussen zitten die je niet had verwacht.

De kern van de nieuwe dreiging is dat AI-systemen niet alleen maar gereedschap zijn, maar steeds vaker zelfstandige actoren worden binnen je bedrijfsvoering. Door nu grenzen te stellen aan die autonomie, voorkom je dat je achteraf moet constateren dat een systeem beslissingen heeft genomen die je niet had goedgekeurd.

Bron: AIbusiness