🧘♂️ Démystifier (les logiciels qui tournent avec) l'IA
Si je meurs en ce moment à cause de l'IA, c'est parfois de rire.
Une tendance Insta me tombe régulièrement dessus, celle des gens qui se filment avec des assistants vocaux d'IA génératives. La plupart du temps, il s'agit de ChatGPT. La plupart du temps, il échoue lamentablement, ou fait n'importe quoi. Et c'est très, très drôle.
Par exemple quand @ahh.gpt n'arrive pas à faire taire la voix des ChatGPT réunis pour méditer.
Comme d'hab, le logiciel essaye de meubler pour dire qu'il a compris et qu'il est dispo pour la suite. Un trait classique de flagornerie et de retention bait des chatbots d'IA génératives. Le but : qu'une personne continue d'écrire ou de parler pour fournir plus de données à analyser, ne jamais s'arrêter de la satisfaire (quitte à mentir) pour qu'à la fin, elle paye un abonnement.
Je ne sais pas si Husk.IRL paye un abo à ChatGPT pour ses vidéos. Mais merci à lui, car je rigole parfois aux larmes, comme devant cette tentative effroyable de rap et de beatbox.
Blagues à part.
(Je sèche mes larmes.)
Ces vidéos sont un bon antidote face au moment d'actu qu'on traverse : l'««« IApocalypse »»».
Le sujet nous a beaucoup occupé au travail. Je ne vais pas redérouler tout le fil, mais plutôt vous recommander pour cela l'excellent papier de ma collègue Morgane Tual paru ce 18 septembre.
Il fait le point d'équilibre entre les inquiétudes légitimes et les risques encore théoriques sur les menaces causés par les développements récents (et les failles de sécurités) liés à des modèles de pointe d'IA. Un article qui plus est illustré magnifiquement par Boris Séméniako.
Sur les menaces liées aux IA, « le pire n’est pas certain, mais le balayer d’un revers de la main, ce n’est pas sérieux », dit, dans cet article, Guillaume Poupard. Pour lui, comme pour beaucoup de scientifiques et d'experts cyber de haut niveau, il reste difficile d'évaluer concrètement les risques réels ou fantasmés, au-delà des déclarations volontairement dramatiques venues de la Silicon Valley.
J'ai de mon côté pu interviewer Virginia Dignum, scientifique spécialiste de l'éthique dans l'IA, et de la gouvernance des nouvelles technologies. Pour qui les choses sont très claires : « le récit de l’extinction sert les entreprises d’intelligence artificielle » avant tout.
J'ai lu beaucoup de monde allant dans ce sens. Des points de vue IA-critiques, qui ont beaucoup de choses à reprocher sur la manière dont OpenAI, Anthropic, Google, Meta, Microsoft, Nvidia… ne cessent de présenter leurs IA comme hégémoniques, révolutionnaires, apocalyptiques, surhumaines, magiques, mystiques ou divines.
Le blog Blood In The Machine m'a particulièrement été utile pour redescendre sur terre. De même que les propos de Timnit Gibru dans WIRED, des discussions avec des membres de l'AI Now Institute, ou encore, la newsletter de Rémi Noyon.
Hasard de calendrier, j'ai aussi été captivé par le livre de Christophe Payet, GuérilliA, qui vient de sortir. J'en ai profité pour l'interviewer, et donner écho à sa vision stimulante et sur les prises en main artistiques de divers logiciels d'IA pour déconstruire les mythologies dominantes à leur sujet.
Cela m'a pas mal parlé. Christophe donne aussi des pistes concrètes pour s'approprier des logiciels d'IA plus économes, plus vertueux. Des IA locales dont on ré-entraine les modèles avec des données plus propres ou éthiques. Ce qui aide à en limiter les biais intrinsèques, issus de modèles d'entraînement dont on n'a toujours pas le détail, si ce n'est qu'on sait que ces millions de documents ont été volés un peu partout.
Un estimé collègue m'a dit que GuérilliA complétait bien d'autres livres pour réfléchir aux débats actuels. Comme celui d'Irénée Regnault, La sommation technologique, que je n'ai pas encore lu. Ou encore, Les prophètes de l'IA par Thibaut Prévost - qui a aussi utilement décortiqué cette semaine pour Arrêt sur images ce qu'il a appelé la faillite d'un traitement journalistique obnubilé par la vision Terminator de l'IA.
Journialisme
Ce type de questionnements a aussi traversé les cours que j'ai donnés ces derniers jours à des étudiants en alternance du CFPJ. Le sujet tombait à pic : l'IA Générative et ses usages possibles (ou non) dans l'écriture journalistique.
Ce qui a mené à des discussions parfois fondamentales. « Si des logiciels deviennent absolument parfaits dans l'imitation des journalistes, aura-t-on encore besoin de nous ? », m'a-t-on, par exemple, demandé.
Bon. Cela se comprend. Comment ne pas avoir peur des développements de l'IA, et de ses progrès rapides, dans des rédactions où beaucoup de jeunes pousses galèrent à trouver un job stable ? Comment se placer éditorialement, alors que des outils numériques à base d'IA changent les fondamentaux (recherche, écriture, productivité), et sont requis et intégrés dans les pratiques quotidiennes de certains médias ?
Parmi mes réponses, forcément imparfaites (surtout après m'être trompé de classe), il y avait l'idée de garder les pieds sur terre.
De bien suivre les recommandations de RSF, qui, dès novembre 2023, posait une charte pour que « les valeurs fondamentales de l’éthique journalistique » continuent d'être respectés en parallèle des recours à des logiciels d'IA. Parmi elles : la véracité, l’exactitude, l’équité, l’impartialité, l’indépendance, la non-nuisance, la non-discrimination, la responsabilité, le respect de la vie privée et la confidentialité des sources.
Ce qui doit éviter, par exemple, d'utiliser n'importe quelle IA trouvée en ligne pour corriger des articles encore non parus, ou retranscrire des interviews. À ce sujet : des solutions locales et gratuites, comme aTrain, ou noScribe, existent. N'hésitez pas.
De ne pas anthropomorphiser les logiciels à outrance. De se rappeler qu'un logiciel d'IA générative n'a pour but que de reproduire des mots probables, et n'est qu'un perroquet stochastique de plus, fût-il augmenté par récupération de données.
D'en comprendre les mécanismes de prédictibilité, de les pratiquer concrètement pour en voir toutes les limites. Les chatbots d'IA génératives restent actuellement incapables d'interviewer quelqu'un correctement. Incapables de saisir des émotions ou de faire le tri dans ce qui est neuf et notable (ou non) dans le fatras de l'actu et d'informations non publiques. Leurs limites (hallucinations, erreurs, faux liens…) demeurent évidentes dès qu'il s'agit de traiter quelque chose de neuf et, par nature, imprévisible, qui constitue généralement la base de ce que les journalistes écrivent.
Je trouve aussi primordial, en tant que journaliste, de parler aux personnes qui utilisent ChatGPT, Claude, Gemini and co. De dépasser le cadre du rejet (légitime) qu'on peut avoir personnellement, pour saisir toutes les nuances des réalités qui se jouent autour de nous. Celles des millions de Français qui utilisent tous types de trucs à base d'IA, même pour des affiches de kermesses. Et ce tout en ayant, souvent, bien conscience de leurs limites ou des dangers sur des secteurs d'activité.
Leur parler et questionner leurs usages aide aussi, beaucoup, à rester critique et réaliste. Et de garder un pied dans les autres problèmes essentiels liés à l'IA (abus dans leurs conceptions, pollution, cohérence sociale, effets sur l'emploi ou le sens du travail, psychologie des utilisateurs, utilisation dans le cadre de projets politiques rabaissant les valeurs humaines…). Des sujets dont les entreprises d'IA parlent peu, sauf quand des médias, lanceurs d'alerte ou tribunaux, se penchent sur le sujet.
En clair, il faut continuer à se poser les bonnes questions. Ne pas tomber dans l'irrationnel, ni croire sur parole les marchands de miracles ou d'apocalypse. C'est la base de l'intelligence humaine. C'est parfois difficile. Le rythme d'actualité, de l'IA frénésie qui nous entoure et du forcing dans nos usages, est effarant.
Et c'est là que déboulent, au milieu de tout ça, des vidéos dans lesquelles ChatGPT ment effrontément et dit n'importe quoi.
Et je rigole. Des éclats de rire francs, nerveux, incontrôlables. Qui, eux aussi, désacralisent. Et aident à prendre du recul face aux failles encore béantes dans beaucoup d'aspects de ces logiciels, transformés trop tôt en humains par les discours marketing de leurs concepteurs.
Car franchement. Bon.
😂 😂 😂