Quand l'intelligence artificielle invente la vie d'un maître bouddhiste

L'intelligence artificielle est devenue un formidable outil pour rédiger des textes, résumer des informations ou traduire des documents. Comme tout les outils, utilisée avec sérieux, elle permet de gagner un temps précieux. En revanche, lorsqu'un texte généré par une IA est publié sans aucune vérification humaine, le résultat peut être... surprenant.🤣

Le domaine des amulettes thaïes, des vénérables bouddhistes et de l'ésotérisme asiatique est particulièrement concerné. Les sources sont souvent en thaï, parfois contradictoires, plusieurs maîtres portent parfois des noms très proches, leurs dates de naissance peuvent être incertaines, certains temples ont changé de nom au fil du temps et de nombreuses informations ne sont disponibles que dans des publications locales. Donc les pièges ne manquent pas même quand on maitrise le sujet !

Une IA ne "sait" pas lorsqu'elle manque d'informations. Elle essaie simplement de produire le texte demandé et "bouche les trous" quand quelque chose manque. C'est ce que l'on appelle une hallucination : elle mélange des faits réels avec des informations erronées ou complètement inventées.
Forcément si la personne qui demande le texte ne maitrise pas son sujet, elle ne peut pas voir les petites erreurs, mais parfois on voit aussi des comiques qui clairement copient-collent des textes IA sans même les avoir relu.

Un exemple concret

En préparant une biographie du Très Vénérable Luang Phor Liew du Wat Rai Theng Thong, je suis tombé sur un article publié sur un autre site marchand.

À première vue, le texte paraît sérieux : il est bien présenté, bien rédigé et semble documenté. Il y a même des illustrations et des listes de références.

Pourtant, après avoir lu quelques lignes, comment vous dire 🙄

Une date de naissance... ou plusieurs ?

Le même article attribue au vénérable LP Liew plusieurs années de naissance différentes.

Or, un moine, même "un moine aux pouvoirs magiques" ne peut évidemment pas être né plusieurs fois.

Mais bon là il a aussi réussi à naitre non seulement a des années d'écart, mais aussi dans plusieurs provinces différentes, preuve s'il en est de ses immenses pouvoirs. 

Une date de décès qui change selon les paragraphes

Plus loin, la date de décès varie elle aussi de manière grotesque d'une ligne à l'autre. 
Il meurt en 1959, en 2015, puis encore en 2022...peut être il décèdera à nouveau en 2035 qui sais? 

L'IA a fabriqué un "Frankenmoine"

Elle a pris des temples au hasard,
un nom monastique, puis un autre,
des petits bouts de biographies
et quelques miracles au hasard.

Le résultat est une "biographie" impossible. 

Pour un lecteur qui découvre le sujet, tout paraît cohérent, pendant environ 15 secondes, ensuite il se demande s'il n'a pas vraiment trop bu la veille.

Pour un collectionneur ou un pratiquant connaissant un peu l'histoire des amulettes thaïes, les erreurs sautent immédiatement aux yeux.

Des livres... qui n'ont jamais existé

Autre symptôme classique : l'IA invente des ouvrages aux titres très génériques (et même une couverture !).

On retrouve souvent des intitulés du type :

• « Le chemin de la sagesse »

• « La puissance du pouvoir »

• « La force de la compassion »

• « La méditation bouddhiste »

Ces titres bateaux semblent plausibles, mais aucune trace de leur existence n'apparaît nulle part dans les sources disponibles.

Les biographies "copier-coller"

Lorsqu'elle manque d'informations, une IA complète souvent le texte avec des passages qui pourraient s'appliquer à presque n'importe quel maître bouddhiste :

• il construit des écoles, des hopitaux 

• il médite très fort

• il aide les pauvres 

• il ouvre des centres de méditation dans le monde entier 

• il écrit plusieurs livres devenus célèbres.

Bien entendu, certains vénérables ont réellement accompli tout cela.

Malgré ses grandes qualités, ce n'est pas le cas du Très Vénérable LP Liew (donc ne recherchez pas ses ouvrages traduits en français, ils n'existent pas)

Le problème est que l'IA peut attribuer automatiquement ces réalisations et bien d'autres à un maître qui n'y est absolument pour rien.

Comment reconnaître une biographie douteuse ?

Quelques indices doivent attirer l'attention :

• les dates changent au cours de l'article 

• plusieurs temples sont attribués au même vénérable 

• le nom monastique varie ou semble incohérent 

• des citations profondes apparaissent
  "Le mal c'est pas bien"

  "La vraie richesse est dans le cœur."

  "La méditation apporte la paix intérieure."

• le vénérable à fait des choses impossibles (genre prendre les voeux à 12 ans, ou être le disciple d'un vénérable décédé 20 ans avant sa naissance) 

• les réalisations décrites sont très générales et pourraient concerner n'importe quel moine.

Comment je travaille : souvent, mais lentement

L'intelligence artificielle fait aujourd'hui partie de mes outils de travail.

Je l'utilise pour structurer les informations, corriger mon mauvais orthographe et améliorer la lisibilité de mes articles.

Une IA ne remplace jamais une personne maitrisant son sujet, plus le sujet est pointu, plus il faut vraiment un connaisseur pour pouvoir en parler.

Avant la publication d'une biographie, il faut que je :

• vérifie les dates et leurs cohérence

• vérifie le temple concerné et sa localisation 

• identifier le véritable nom monastique 

• compiler des sources thaïes et les comparer
  

• je m'appuie ensuite pour tout assembler sur mes propres recherches, photographies et documents recueillis au fil de mes voyages ces 25 dernières années.

L'IA est un excellent assistant.

Mais elle ne doit jamais devenir l'auteur final d'une biographie historique sans relecture critique sérieuse, sinon on voit le résultat.

En conclusion

L'intelligence artificielle va continuer à transformer Internet. Elle permettra de produire davantage de contenus, plus rapidement que jamais. Elle peut aider à produire du bon, ou du très mauvais. C'est un outil, tout comme avec un marteau je peux aller réparer la maison de mon voisin, ou aller lui fracasser le crâne.
L'outil est UN OUTIL et n'est donc pas responsable de ce qu'on fait avec.
L'IA n'est ni un Dieu onmiscient, ni un Terminator qui veut conquérir le monde, elle ne va pas (et ne veux pas) prendre votre travail. Elle peut simplement vous aider à le faire mieux si vous apprenez à l'utiliser.

Mais dans des domaines spécialisés comme les amulettes bouddhistes, les reliques, les traditions des temples thaïs ou les biographies des grands maîtres, la qualité dépendra toujours d'une chose : la vérification humaine par une personne maitrisant le sujet en profondeur.

Un texte peut être en apparence parfaitement écrit... et totalement faux!

À l'inverse, un article soigneusement relu, enrichi par des recherches et confronté à des sources fiables restera toujours plus précieux qu'un contenu généré en quelques secondes.

C'est cette approche que j'ai choisi de privilégier pour partager avec vous l'histoire des grands vénérables et des traditions bouddhistes de Thaïlande.

La prochaine fois que vous tomberez sur une biographie où un même moine naît trois fois, meurt trois fois et change de temple à chaque paragraphe, posez-vous simplement une question : si personne n'a pris deux minutes pour relire une biographie avant de la publier (mais a quand même pris le temps de générer un visuel bidon), libre à chacun de se demander quel soin est apporté au reste de son contenu... et au choix de ses produits.