What's new in GenAI land | Édition 14

Les agents personnels qui exécutent eux-mêmes des tâches se rapprochent. En même temps, le débat s’intensifie sur qui les contrôle et sur ce qu’ils peuvent faire.

Toutes les deux semaines, nous publions sur le blog de Xylos un aperçu de ce qui bouge dans l’IA générative, avec l’éclairage nécessaire. Il s’appuie sur l’aperçu LinkedIn de Tom Van ’t veld, Learning Innovator chez OASE (powered by Xylos). Tom suit les évolutions, nous les traduisons en ce qu’elles signifient pour les organisations. Bienvenue dans cette quatorzième édition.

Anthropic a lancé Claude Duet, sa réponse à Dots d’OpenAI et à Muse de Meta. Duet se connecte à vos applications, vous envoie un briefing le matin et exécute des tâches sur son propre ordinateur dans le cloud. Avant d’envoyer un message, de payer quelque chose ou de supprimer un fichier, il demande d’abord l’autorisation. Pour l’instant, Duet est une version de test réservée aux utilisateurs payants aux États-Unis.

Avec 1Password for Agents, des agents peuvent se connecter à votre place sans voir votre mot de passe. 1Password vérifie d’abord de quel agent il s’agit et ne remplit les données qu’après votre accord. Des banques américaines constatent déjà une activité d’agents sur des comptes clients, sans savoir si le client l’a lui-même demandé.

La question de la responsabilité en cas de transaction erronée d’un agent reste floue. N’autorisez donc les agents qu’avec leurs propres identifiants, des droits limités et un journal de leurs actions. Les paiements et la suppression de données exigent toujours une confirmation humaine.

Microsoft compare les agents IA à une « menace interne », car « les modèles de pointe, d’où qu’ils viennent, ne sont pas fiables ». Le problème réside dans leur imprévisibilité. Étonnant de la part d’une entreprise qui vend elle-même des agents Copilot, même si Microsoft fournit aussitôt des « Guardian Agents » pour surveiller ces agents.

La Commission européenne a entre-temps posé les premiers jalons de l’application de l’AI Act. Après les incidents liés à des agents échappés, les créateurs des modèles les plus puissants doivent expliquer comment ils sécurisent leurs systèmes et les font évaluer. Des réponses erronées ou incomplètes peuvent leur coûter jusqu’à 3 pour cent de leur chiffre d’affaires mondial. OpenAI entraîne désormais ses modèles sur une copie enregistrée d’internet plutôt que sur l’internet en direct.

Traitez donc un agent comme un nouveau collaborateur ayant accès à des systèmes sensibles : donnez-lui uniquement les droits dont il a besoin et suivez ce qu’il fait.

En novembre, Teams intègre la détection des deepfakes. Des outils externes certifiés analysent l’image et le son d’une réunion, et Teams affiche un avertissement si quelque chose semble suspect. Les organisateurs ou participants suspects seront aussi signalés. On ne sait pas encore quels fournisseurs participent ni quelle licence est nécessaire.

Une avancée bienvenue, même si un second canal reste la meilleure protection. Faites toujours confirmer les paiements et les demandes urgentes issus d’un appel vidéo par un autre canal.

Dans Microsoft 365 aussi, beaucoup de choses bougent à nouveau. Dans l’application Copilot, Researcher et Analyst passent sous Plugins et, à partir de la mi-novembre, Windows 11 perd plusieurs actions IA du menu contextuel. Vous gérez des manuels ou des formations pour vos collaborateurs ? Prévoyez une mise à jour.

Les entreprises qui ont une page sur Facebook, Instagram ou WhatsApp ont intérêt à surveiller les nouvelles conditions de Meta. Elles permettent à Meta d’explorer les sites web liés à ces comptes. Après des critiques, le mot « entraîner » a été supprimé, mais selon des juristes, l’entraînement de l’IA reste possible. Des éditeurs européens demandent à la Commission d’intervenir avant le 20 novembre, la nouvelle date d’entrée en vigueur.

Meta a aussi désactivé la fonction de partage de son agent Muse après que des chercheurs ont pu retrouver quelque 6 800 conversations partagées, dont une demande de crédit et des documents d’entreprise.

Vous voulez éviter que Meta utilise votre site web ? Bloquez les robots d’exploration de Meta via robots.txt. Et faites comprendre à vos collaborateurs que « partager » une conversation IA revient souvent, en pratique, à la publier.

Après les clones d’Adobe, ArtCraft a aussi publié des alternatives gratuites à Word, Excel et PowerPoint, entièrement créées avec Claude. ZDNet juge le clone de PowerPoint aussi bon que l’original, tandis que Creative Bloq a encore relevé de nombreuses lacunes dans les clones d’Adobe. Les juristes consultés par Tweakers pointent un risque : le code est écrit de zéro, mais l’interface ressemble fortement à l’original. Google permet désormais de publier des apps créées dans AI Studio sur le Play Store sans compte développeur.

Anthropic a publié des chiffres sur son propre personnel : la part de juniors dans les fonctions techniques est passée de 21 à 14 pour cent, et parmi les nouveaux recrutements techniques de 27 à 9 pour cent. Un cinquième des collaborateurs dit que leur travail s’est déplacé vers le pilotage de Claude. Le temps passé en réunion a augmenté de 20 pour cent.

Qui arrête aujourd’hui de former des juniors manquera dans quelques années des personnes capables d’évaluer les résultats de l’IA. Investissez donc dans vos nouveaux talents, même si l’IA reprend une partie de leurs tâches.

Thomas More est la première haute école flamande à offrir ChatGPT Edu à tous ses étudiants et collaborateurs, avec des règles claires par travail sur la part d’IA autorisée et une formation à la maîtrise de l’IA. Le service de médiation flamand recevait de plus en plus de longues lettres de plainte au ton juridique, rédigées par l’IA. Plutôt que de les interdire, le service propose désormais lui-même un exemple de prompt : neutre, respectueux, une page A4 maximum, et relire d’abord pour vérifier qu’il s’agit toujours de votre histoire.

Ces deux exemples montrent la voie : des règles claires et une bonne base sont plus efficaces qu’une interdiction. Au Agoria Flanders AI festival, Tom a remarqué que beaucoup de gens ne maîtrisent pas encore les bases de l’IA générative. Avec Xylos Insights, vous identifiez où en sont vos collaborateurs.

Pour terminer : des chercheurs du MIT ont laissé treize agents IA évoluer pendant trente heures sans mission sur une île simulée. Ils se sont spontanément mis à inventer des jeux, et les agents qui avaient joué ont ensuite mieux réussi les vraies missions. La détente est donc nécessaire, même pour les agents IA.

Rendez-vous dans deux semaines pour la prochaine édition.

Tom travaille depuis des années chez Xylos, où il a commencé comme formateur Microsoft Office avant de devenir le moteur de concepts d’apprentissage innovants. Il est à l’origine d’OASE, la plateforme d’apprentissage en ligne de Xylos, et de PlayForward, la nouvelle marque de gamified learning de Xylos. Il a également développé le concept Digital Coach, une app Escape Room pour Microsoft Teams et le jeu mAIndset, qui apprend aux collaborateurs à formuler des prompts pour l’IA de manière ludique. En tant que Learning Innovator, il s’intéresse de plus en plus à ce que l’IA change dans notre façon d’apprendre et de travailler. Envie de réagir ou d’en discuter ? Retrouvez-le sur LinkedIn.