L’Europe a publié des pictogrammes pour rendre le contenu IA reconnaissable, et les avertissements sur les cyberattaques menées avec l’IA sont devenus très concrets, jusqu’à Gand. Une édition sur l’art de suivre le rythme intelligemment, la transparence et la résilience numérique.

Toutes les deux semaines, nous publions sur le blog de Xylos un aperçu clair et honnête de ce qui bouge vraiment dans le monde de l’IA générative, avec l’éclairage nécessaire. Il reste basé sur l’aperçu LinkedIn bimensuel de Tom Van ’t veld, Learning Innovator chez OASE (powered by Xylos). Tom suit de près les évolutions de l’IA, et nous traduisons ses observations en ce qu’elles signifient concrètement pour les organisations et les personnes qui y travaillent. Bienvenue dans cette dixième édition.

OpenAI a ajusté son assistant sur deux points. Les utilisateurs gratuits ont désormais accès aux tâches planifiées, qui permettent à ChatGPT d’exécuter lui-même une action à des moments fixes, comme un résumé quotidien ou un rappel, avec une limite de trois tâches. En outre, sur un compte personnel, vous ne pouvez plus créer de nouveaux Custom GPT. Ils cèdent la place aux skills, des méthodes de travail réutilisables que vous définissez une fois puis utilisez dans chaque conversation. Les skills sont plus légères à créer et plus faciles à partager, même si la transition demande un temps d’adaptation à ceux qui utilisent quotidiennement leurs Custom GPT favoris.

Pour les organisations, c’est surtout une incitation à bien documenter leurs méthodes de travail avec l’IA. Les plateformes évoluent vite, et qui consigne soigneusement ses prompts, méthodes de travail et use cases les transpose facilement vers le nouveau format à chaque mise à jour. Vous capitalisez ainsi sur ce qui fonctionne déjà et évitez de perdre des connaissances lorsqu’une fonctionnalité change.

Claude dispose depuis peu de son propre navigateur. Là où vous installiez auparavant une extension Chrome qui observait votre navigateur, avec vos propres identifiants et onglets ouverts, Claude ouvre désormais dans l’app Cowork sa propre fenêtre de navigation pour rechercher lui-même des informations. Par défaut, l’outil se tient à l’écart de vos identifiants bancaires, de messagerie et SSO, sauf si vous les saisissez vous-même. L’objectif est donc surtout de récupérer des informations publiques, plutôt que d’agir en votre nom.

Cela fonctionne bien, même si l’outil se trompe parfois de lien, et il existe un risque de prompt injection, où des instructions cachées sur une page web tentent de détourner l’IA. Une vérification reste donc toujours nécessaire.

Les agents qui naviguent, cliquent et résument eux-mêmes deviennent rapidement la norme. Déterminez donc dès maintenant quels accès vous accordez à ces agents et lesquels vous protégez délibérément : des droits délimités, pas d’identifiants sensibles et une étape de contrôle humain avant que le résultat ne soit utilisé. Vous profitez ainsi du gain de temps sans qu’une page web piratée ne retourne votre assistant contre vous.

L’Europe veut rendre le contenu IA plus reconnaissable et a publié un jeu de pictogrammes pour signaler ce qui a été créé ou modifié par l’IA, conformément à l’article 50 de l’AI Act. Cette clarté est nécessaire. Une étude de l’association néerlandaise de consommateurs montre que les chatbots d’entreprise aident souvent mal les clients et cachent parfois même que vous parlez à une machine, par exemple avec un prénom comme Anna et une pastille verte.

Les utilisateurs réclament eux-mêmes cette clarté. Sur LinkedIn, plus d’un million de personnes ont utilisé en un mois le nouveau bouton pour signaler le contenu IA de mauvaise qualité. Et dans le monde de la musique, la musique IA continue de progresser : sur Deezer, environ 44 pour cent des morceaux mis en ligne chaque jour sont déjà générés par l’IA, ce qui pousse aussi Apple Music à vouloir étiqueter les titres IA d’ici la fin de l’année.

Pour les organisations, il est payant d’anticiper les labels. Soyez dès aujourd’hui transparent sur la place de l’IA dans votre contact client et votre contenu : un chatbot qui se fait passer pour un humain coûte plus de confiance qu’il ne fait gagner de temps. Des accords clairs sur l’étiquetage du contenu IA protègent votre marque et vous préparent d’emblée à ce qu’exige l’AI Act.

Plus d’une centaine d’entreprises, dont OpenAI, Anthropic et Google, ont signé une lettre ouverte qui met en garde contre les attaques par IA visant les hôpitaux, l’épuration de l’eau et d’autres infrastructures critiques. Qu’il ne s’agit pas que de théorie, un gang russe l’a prouvé en piratant l’entreprise gantoise Christeyns avec des outils courants comme Claude et Cursor, en faisant croire à l’IA qu’il s’agissait d’un test.

Dans le même temps, il apparaît combien l’IA est difficile à piloter. Une nouvelle étude a recensé en juillet plus de 300 cas où l’IA a menti, ignoré des instructions ou poursuivi ses propres objectifs, soit presque deux fois plus qu’en juin. Ces chiffres proviennent de signalements sur X et sont donc à prendre avec prudence, même si Tom reconnaît cette réalité dans ses propres projets : plus les modèles sont puissants, plus vous devez formuler vos instructions de manière explicite pour éviter que l’IA ne commence à faire ses propres choix. Vos propres données méritent aussi votre attention : avec un nouvel outil, Proton montre tout ce que ChatGPT et Claude déduisent discrètement de vos conversations, comme votre métier et vos centres d’intérêt.

Pour les organisations, cybersécurité et usage de l’IA se rejoignent. Aujourd’hui, un attaquant n’a besoin de rien de plus que les outils que vos collaborateurs utilisent au quotidien. Combinez donc mesures techniques et sensibilisation : des directives claires sur ce que vous confiez à un assistant IA, et une formation qui apprend aux collaborateurs à reconnaître les détournements de l’IA. Nos équipes cybersécurité et learning collaborent souvent à ce carrefour.

Pour terminer, quelque chose pour vos oreilles : dans une passionnante vidéo, Corridor Crew explique comment reconnaître la musique IA, par exemple à des cymbales étrangement coupées et à une accentuation exagérée des basses. Une fois que vous l’entendez, vous l’entendez partout.

Rendez-vous dans deux semaines pour la prochaine édition.

Tom travaille depuis des années chez Xylos, où il a commencé comme formateur Microsoft Office avant de devenir le moteur de concepts d’apprentissage innovants. Il est à l’origine d’OASE, la plateforme d’apprentissage en ligne de Xylos, et de PlayForward, la nouvelle marque de gamified learning de Xylos. Il a également développé le concept Digital Coach, une app Escape Room pour Microsoft Teams et le jeu mAIndset, qui apprend aux collaborateurs à formuler des prompts pour l’IA de manière ludique. En tant que Learning Innovator, il s’intéresse de plus en plus à ce que l’IA change dans notre façon d’apprendre et de travailler. Envie de réagir ou d’en discuter ? Retrouvez-le sur LinkedIn.