AI in een mooi jasje: wat de demo niet toont

Jens Leroy, AI Business Partner bij Xylos, stond op een beurs tussen de demo's en zette op een rij welke vragen je stelt voor je op "toestaan" klikt.

Het is halfweg de namiddag op een beurs. Ik sta al tien minuten aan dezelfde stand, tussen een kleine menigte van vooral zaakvoerders die net als ik nieuwsgierig zijn naar wat we te zien krijgen. Op het scherm leest een AI-agent een inbox van tweehonderd mails, zet de leads in het CRM, schrijft drie offertes en plant de opvolgcalls in. De verkoper glimlacht: "Vijf minuten om te installeren. Je koppelt je mailbox, je CRM, en klaar." Het enthousiasme is groot, de vragen blijven aan de oppervlakte. Ik stap naar de volgende stop. Twee standen verder staat niemand. Op het scherm krijgt iemand telefoon van een AI-avatar die samen met hem zijn dag overloopt.

Eerlijk? Ik word er zelf ook enthousiast van. Als AI Business Partner bij Xylos is het mijn job om te zien wat vandaag al kan. Maar terwijl de demo loopt, gaat in mijn hoofd een ander lijstje open. Welke rechten krijgt dat ding op die mailbox? Waar gaan die tweehonderd mails en die agenda met klantinfo naartoe? En kan ik hem iets laten doen wat nooit bedoeld was?

Dat lijstje staat nooit in de demo. Daarom deze blog. Ik wil je AI zeker niet uit het hoofd praten, integendeel. Ik wil wel tonen wat er onder dat mooie jasje zit en hoe je er veilig en toch snel mee aan de slag gaat.

Een demo laat zien wat een tool kan, maar zelden wat je hem allemaal geeft.

Tijdens die installatie van vijf minuten klik je een paar keer op "toestaan". Toegang tot je mailbox, je agenda, je CRM, misschien je gedeelde schijf. Het gaat zo vlot dat je er amper bij stilstaat. Een nieuwe stagiair geef je op zijn eerste dag toch ook niet de sleutels van het hele gebouw en de kluis.

Bovendien gaan die sleutels niet alleen naar de tool. Ze gaan ook naar het bedrijf erachter en naar de partijen waarop dat bedrijf zelf weer bouwt. En in zekere zin naar iedereen die de tool iets kan laten lezen: een agent die je mailbox verwerkt, leest ook de mails van externen, en die hebben niet altijd de beste bedoelingen. Zit daar een slim geformuleerde opdracht tussen, dan voert de agent die mogelijk gewoon uit. Dat heet prompt injection.

Hoe dat in de praktijk afloopt, zag je vorig jaar bij McDonald's. De keten laat sollicitanten screenen door Olivia, een chatbot van een externe leverancier. Handig, schaalbaar en ongetwijfeld een mooie demo. In 2025 probeerden twee securityonderzoekers in te loggen op het beheerportaal van die leverancier. Bij hun tweede poging lukte het, met "123456" als gebruikersnaam en wachtwoord. Daarachter zaten tot 64 miljoen sollicitatiedossiers.

Het lek werd snel gedicht, en volgens de leverancier keek er niemand anders mee. Maar in de krant stond de naam van McDonald's, die van de leverancier bleef op de achtergrond. Een taak kan je uitbesteden aan een tool, de verantwoordelijkheid niet.

Stel bij elke nieuwe AI-tool eerst deze drie vragen:

1. Wat heeft de tool echt nodig voor deze ene taak? Een samenvatting van je mails vraagt geen recht om mails te versturen.

2. Waar gaat mijn data naartoe, en wie kan er nog aan? Blijft ze in je eigen omgeving, of belandt ze bij de leverancier en diens partners?

3. Wat kan de tool doen zonder het mij te vragen? Wat je niet kan terugdraaien, wil je eerst zelf zien.

Krijg je geen helder antwoord, dan is dat ook een antwoord.

Betekent dat dat je die demo's beter links laat liggen? Helemaal niet. Ik sta er zelf graag bij. Maar ik kijk wel met een zonnebril op, zodat ik niet verblind raak door wat er op het scherm blinkt.

Als AI Business Partner breng ik eerst in kaart waar je zo'n tool, of beter nog een volledige toepassing, precies zou inzetten. Dat gaat over de structuur: waar staat je data vandaag, wie kan er nu al aan en welke systemen praten met elkaar? Over het proces: welke taak neemt de AI precies over, en waar moet er een mens beslissen? En over de mensen: wie gaat ermee werken, wat weten ze over de risico's en wat doen ze als de officiële tool niet doet wat ze nodig hebben? En tot slot: hoe past dit binnen je bredere strategie en architectuur?

Pas als dat duidelijk is, kijken we naar de tool. Vaak bouwen we dan zelf een toepassing binnen de omgeving die je al beheert. Je data verhuist niet, de rechten die je vandaag hebt ingesteld blijven gelden, en elke agent krijgt enkel toegang tot wat hij voor zijn taak nodig heeft. Soms past een bestaande tool prima. Ook goed, maar dan weet je tenminste wat je binnenhaalt.

Die verkoper had trouwens gelijk: in vijf minuten is zo'n tool geïnstalleerd. De vraag is alleen wie er na die vijf minuten allemaal binnen kan.

Wil je weten welke AI-tools er vandaag al in je organisatie in gebruik zijn en wat ze allemaal mogen? Of zag je zelf een demo die je niet meer loslaat? Dan bekijken we samen, met de zonnebril op, hoe je AI veilig inzet in je processen.

Wil je eerst zelf aftoetsen hoe AI-ready je organisatie is? Doe dan de AI Readiness Scan.

Plan een gesprek met ons AI-team