What's new in GenAI land | Édition 15

Bonne nouvelle pour les organisations européennes : Claude dans Copilot arrive dans la frontière de données de l’UE. En même temps, l’usage de l’IA devient de plus en plus une attente, avec Proton comme dernier exemple en date.

Toutes les deux semaines, nous publions sur le blog de Xylos un aperçu de ce qui bouge dans l’IA générative, avec l’éclairage nécessaire. Il s’appuie sur l’aperçu LinkedIn de Tom Van ’t veld, Learning Innovator chez OASE (powered by Xylos). Tom suit les évolutions, nous les traduisons en ce qu’elles signifient pour les organisations. Bienvenue dans cette quinzième édition.

Microsoft intègre les modèles Claude de Copilot dans l’EU Data Boundary d’ici la fin de l’année, y compris pour Copilot Cowork. Dans l’UE, Claude est désactivé par défaut.

Vous l’aviez laissé désactivé jusqu’ici pour des raisons de confidentialité ? Vous avez désormais une raison de moins. Vous l’utilisez déjà ? Vous n’avez rien à faire. Les administrateurs qui souhaitent l’activer peuvent le faire pour tout le monde ou pour des groupes spécifiques.

Cela concerne uniquement les modèles Claude dans Copilot. Ceux qui attendent qu’Anthropic fasse de même pour sa propre application Claude devront patienter : aucune date n’a été annoncée.

Notre conseil : commencez par un groupe qui peut l’utiliser concrètement et élargissez ensuite à toute l’organisation. Vous voyez ainsi rapidement où Claude apporte une valeur ajoutée par rapport aux autres modèles de Copilot.

Si vos collaborateurs utilisent Copilot Chat sans licence Microsoft 365 Copilot, ils atteindront désormais plus vite des limites. Microsoft ne précise pas où elles se situent. Vous ne le remarquez qu’en les atteignant, avec un bouton pour demander une licence.

Les administrateurs ne s’en réjouiront guère, même si nous sommes désormais habitués à ce genre de coup de pouce commercial. Identifiez donc à l’avance qui, dans votre organisation, utilise Copilot Chat sans licence et à quelle vitesse ces personnes atteignent les limites. Vous décidez ensuite si une licence se justifie pour ce groupe.

Proton, qui se positionne comme une alternative respectueuse de la vie privée à Gmail et Google Drive notamment, « réinterroge » ses collaborateurs sur leur usage de l’IA. Selon un e-mail interne, cela peut avoir des conséquences sur la suite de leur emploi.

Proton dément qu’il s’agisse de licenciements déguisés. Après Shopify et Duolingo, une nouvelle entreprise fait de l’usage de l’IA un critère de performance, alors que l’accès à la formation recule selon les chiffres de PwC.

Qui évalue ses collaborateurs sur leur usage de l’IA doit aussi leur apprendre à bien l’utiliser. Identifiez d’abord où en sont vos collaborateurs et construisez à partir de là. C’est ce que nous faisons avec Xylos Insights.

Le Mediawijzer, une enquête de l’Arteveldehogeschool menée auprès de 4 456 Flamands, montre que les jeunes sont plus éduqués aux médias qu’on ne le pense : 81 pour cent des 16-30 ans reconnaissent une image générée par IA, contre 52 pour cent de l’ensemble des Flamands. Trois quarts des 16-18 ans utilisent l’IA au moins une fois par semaine.

Un usage fréquent en dit peu sur la qualité : 73 pour cent des participants savent qu’un prompt a besoin d’un objectif clair, mais moins de la moitié réalise qu’il faut aussi fournir le contexte nécessaire.

Cela montre une fois de plus pourquoi la formation est si importante. Au-delà des boutons, apprenez à vos collaborateurs pourquoi un prompt a besoin de contexte.

Des chercheurs ont demandé à cinq modèles de langage de recommander des médicaments. Plus de 97 pour cent des premiers choix se sont portés sur un seul produit, généralement le médicament de marque, alors qu’il existait en moyenne cinq à six produits par substance active.

L’IA donne donc souvent la réponse la plus connue, pas forcément la meilleure. Cela soulève aussitôt la question de savoir à quel point c’est influençable : celui qui publie le plus sur son produit est le plus souvent recommandé. Tout comme les entreprises optimisent leurs sites pour Google, des pages sont désormais rédigées pour que l’IA les recommande plus vite.

Une étude parue dans Nature Machine Intelligence sur les biais montre autre chose : quatre modèles de raisonnement sur cinq avaient besoin de plus d’étapes lorsque l’information allait à l’encontre d’un stéréotype de genre, par exemple un prénom féminin associé à un certain type de travail.

La réponse finale peut rester correcte, mais ces étapes supplémentaires indiquent qu’un stéréotype influence le raisonnement des modèles. C’est un risque dès que l’IA participe à des décisions concernant des personnes, par exemple lors de la présélection de candidats.

Gardez cela en tête quand vous rédigez un prompt : demandez explicitement des alternatives et demandez d’éviter les stéréotypes lorsqu’il s’agit de personnes. Et vérifiez les recommandations de l’IA avant de les suivre.

La Commission européenne utilise l’IA pour rédiger et simplifier la législation, notamment pour détecter les chevauchements et les contradictions. Rien de mal en soi, mais la présidente du Parlement, Roberta Metsola, avertit que l’IA ne doit pas remplacer l’esprit critique.

Les modèles utilisés ne sont pas communiqués. En interne, la Commission utilise son propre outil, GPT@EC, qui propose aussi des modèles ouverts et européens et garde les données en interne.

Qui laisse l’IA participer à la rédaction de documents importants en reste responsable. Convenez à l’avance de qui relit et des modèles et données autorisés.

Pour terminer : sur le compte Instagram @belgianhistory8, des vidéos IA hyperréalistes racontent la vie de Belges oubliés, comme James Ensor et Adolf Daens. L’historien Brecht Deseure trouve le format réussi, mais prévient qu’il donne surtout des récits héroïques.

Rendez-vous dans deux semaines pour la prochaine édition.

Tom travaille depuis des années chez Xylos, où il a commencé comme formateur Microsoft Office avant de devenir le moteur de concepts d’apprentissage innovants. Il est à l’origine d’OASE, la plateforme d’apprentissage en ligne de Xylos, et de PlayForward, la nouvelle marque de gamified learning de Xylos. Il a également développé le concept Digital Coach, une app Escape Room pour Microsoft Teams et le jeu mAIndset, qui apprend aux collaborateurs à formuler des prompts pour l’IA de manière ludique. En tant que Learning Innovator, il s’intéresse de plus en plus à ce que l’IA change dans notre façon d’apprendre et de travailler. Envie de réagir ou d’en discuter ? Retrouvez-le sur LinkedIn.