L'IA sous un bel emballage : ce que la démo ne montre pas

Jens Leroy, AI Business Partner chez Xylos, a parcouru les démos d'un salon professionnel et a listé les questions à vous poser avant de cliquer sur « autoriser ».

Il est le milieu de l'après-midi sur un salon. Je suis depuis dix minutes au même stand, au milieu d'un petit groupe composé surtout de chefs d'entreprise qui, comme moi, sont curieux de voir ce qu'on va nous montrer. À l'écran, un agent IA lit une boîte de réception de deux cents e-mails, place les leads dans le CRM, rédige trois offres et planifie les appels de suivi. Le vendeur sourit : « Cinq minutes pour l'installer. Vous connectez votre boîte mail, votre CRM, et c'est fini. » L'enthousiasme est grand, les questions restent en surface. Je passe à l'arrêt suivant. Deux stands plus loin, il n'y a personne. À l'écran, quelqu'un reçoit un appel d'un avatar IA qui passe sa journée en revue avec lui.

Franchement ? Ça m'enthousiasme aussi. En tant qu'AI Business Partner chez Xylos, mon travail consiste à voir ce qui est déjà possible aujourd'hui. Mais pendant la démo, une autre liste s'ouvre dans ma tête. Quels droits ce truc obtient-il sur cette boîte mail ? Où vont ces deux cents e-mails et cet agenda rempli d'informations clients ? Et puis-je lui faire faire quelque chose qui n'a jamais été prévu ?

Cette liste ne figure jamais dans la démo. D'où ce blog. Je ne veux surtout pas vous dissuader de l'IA, bien au contraire. Je veux en revanche montrer ce qui se cache sous ce bel emballage et comment vous lancer en toute sécurité, tout en allant vite.

Une démo montre ce qu'un outil sait faire, mais rarement tout ce que vous lui confiez.

Pendant cette installation de cinq minutes, vous cliquez plusieurs fois sur « autoriser ». Accès à votre boîte mail, votre agenda, votre CRM, peut-être votre lecteur partagé. Tout va si vite que vous y prêtez à peine attention. Pourtant, vous ne confieriez pas non plus à un nouveau stagiaire, dès son premier jour, les clés de tout le bâtiment et du coffre-fort.

De plus, ces clés ne vont pas seulement à l'outil. Elles vont aussi à l'entreprise qui se trouve derrière et aux acteurs sur lesquels cette entreprise s'appuie à son tour. Et, d'une certaine manière, à toute personne capable de faire lire quelque chose à l'outil : un agent qui traite votre boîte mail lit aussi les e-mails de personnes externes, et elles n'ont pas toujours les meilleures intentions. Si une instruction habilement formulée s'y glisse, l'agent risque tout simplement de l'exécuter. C'est ce qu'on appelle une injection de prompt (prompt injection).

Ce que cela donne en pratique, on l'a vu l'an dernier chez McDonald's. La chaîne fait présélectionner ses candidats par Olivia, un chatbot d'un fournisseur externe. Pratique, évolutif et sans aucun doute une belle démo. En 2025, deux chercheurs en sécurité ont tenté de se connecter au portail d'administration de ce fournisseur. À leur deuxième essai, ils y sont parvenus, avec « 123456 » comme nom d'utilisateur et mot de passe. Derrière se trouvaient jusqu'à 64 millions de dossiers de candidature.

La faille a été rapidement corrigée et, selon le fournisseur, personne d'autre n'y avait eu accès. Mais c'est le nom de McDonald's qui s'est retrouvé dans la presse, tandis que le fournisseur restait dans l'ombre. Vous pouvez confier une tâche à un outil, pas la responsabilité.

Posez d'abord ces trois questions pour chaque nouvel outil d'IA :

1. De quoi l'outil a-t-il vraiment besoin pour cette tâche précise ? Un résumé de vos e-mails ne nécessite pas le droit d'envoyer des e-mails.

2. Où vont mes données, et qui d'autre peut y accéder ? Restent-elles dans votre propre environnement, ou atterrissent-elles chez le fournisseur et ses partenaires ?

3. Que peut faire l'outil sans me le demander ? Ce que vous ne pouvez pas annuler, vous voulez d'abord le voir vous-même.

Si vous n'obtenez pas de réponse claire, c'est aussi une réponse.

Cela signifie-t-il que vous feriez mieux d'ignorer ces démos ? Pas du tout. J'aime moi-même y assister. Mais je les regarde avec des lunettes de soleil, pour ne pas être ébloui par ce qui brille à l'écran.

En tant qu'AI Business Partner, je commence par déterminer précisément où vous utiliseriez un tel outil, ou mieux encore une application complète. Cela concerne la structure : où se trouvent vos données aujourd'hui, qui y a déjà accès et quels systèmes communiquent entre eux ? Le processus : quelle tâche l'IA reprend-elle exactement, et où un humain doit-il décider ? Et les personnes : qui va l'utiliser, que savent-elles des risques et que font-elles quand l'outil officiel ne fait pas ce dont elles ont besoin ? Et enfin : comment cela s'inscrit-il dans votre stratégie et votre architecture plus larges ?

Ce n'est qu'une fois ces points clarifiés que nous examinons l'outil. Souvent, nous construisons alors nous-mêmes une application au sein de l'environnement que vous gérez déjà. Vos données ne déménagent pas, les droits que vous avez configurés aujourd'hui restent valables, et chaque agent n'a accès qu'à ce dont il a besoin pour sa tâche. Parfois, un outil existant convient parfaitement. Très bien aussi, mais au moins vous savez ce que vous faites entrer.

Ce vendeur avait d'ailleurs raison : un tel outil s'installe en cinq minutes. La seule question est de savoir qui peut entrer après ces cinq minutes.

Vous voulez savoir quels outils d'IA sont déjà utilisés aujourd'hui dans votre organisation et ce qu'ils sont autorisés à faire ? Ou vous avez vu vous-même une démo qui ne vous quitte plus ? Alors examinons ensemble, lunettes de soleil sur le nez, comment utiliser l'IA en toute sécurité dans vos processus.

Vous voulez d'abord évaluer vous-même dans quelle mesure votre organisation est prête pour l'IA ? Faites le AI Readiness Scan.

Planifiez un entretien avec notre équipe IA