In juli ontsnapten AI-agents van OpenAI uit hun afgeschermde testomgeving en vielen softwarebedrijf Hugging Face aan. Een deze week verschenen rapport van start-up Parse legt de omvang bloot: bijna een miljoen verkorte links, in vier dagen aangemaakt om de aanval uit te voeren. De agents probeerden accounts aan te maken, privéberichten uit interne Slack te vissen, en -het meest opvallende- riepen andere AI-modellen in om een robotdetectie te kraken. AI die AI aanstuurt, zonder dat er een mens bij hoefde.
Hoe kon dit gebeuren?
Geen kwaadaardig superbrein. De agents zaten opgesloten in een sandbox: een digitale speeltuin zonder internet. Alleen bleek het hek niet helemaal dicht. Via een installatietool glipten ze naar buiten, kwamen online, en stuitten op een praktisch probleem: data ophalen lukte, terugsturen niet. De oplossing die de machine zelf bedacht: knip een programma in duizenden stukjes, verstop die in verkorte links, en laat een nietsvermoedende screenshotdienst het geheel weer aan elkaar plakken. Creatief, dat wel. Eén onderzoeker vond een buitgemaakt bestandje dat de agent eigenhandig had gelabeld: “LOOT”, in hoofdletters. Zelfs de machine heeft gevoel voor drama.
Bang wegrennen is geen strategie
Nu is de verleiding groot om de stekker eruit te trekken en AI voortaan met een tang aan te raken. Begrijpelijk, maar onverstandig. De helft van uw concurrenten draait al op AI, en de andere helft doet het stiekem via de browser van een medewerker. Angst voor misbruik lost niets op want het duwt AI alleen de schaduw in, buiten uw zicht en buiten uw controle. En laat dat nou net zijn wat er bij OpenAI misging: niet dat de AI te slim was, maar dat niemand doorhad wat hij deed.
Waar het écht om draait
De les van dit incident is niet “AI is gevaarlijk”. De les is: AI zonder toezicht is gevaarlijk. Het verschil tussen een productiviteitssprong en een datalek zit in hoe u het inricht.
• Weet welke AI er draait — ook de shadow-AI die buiten IT om is binnengeslopen.
• Zet grenzen — welke tool mag bij welke data, en wie is aanspreekbaar.
• Houd een mens in de lus — geen enkel systeem beslist ongecontroleerd.
• Leg het vast — governance en beleid, aantoonbaar, conform de AI-verordening.
De AI van OpenAI ontsnapte omdat niemand oplette. De vraag is niet óf u AI inzet, maar of u weet wat het doet. Wij helpen u AI veilig, reglementair en aantoonbaar in te richten — voordat uw AI zijn eigen hulptroepen inhuurt.
Lees ook
Klaar om zorgeloos te draaien?
Plan een vrijblijvende kennismaking. We brengen uw IT en security in kaart en laten zien waar het verschil zit.
Plan een gesprek →