Un modèle ne sait pas qu’il ignore. Il produit la suite la plus vraisemblable, et une citation inventée a exactement la même allure qu’une citation exacte.
En un mot. Pourquoi un modèle affirme avec assurance des choses fausses, et comment s’en protéger.
Définition
Un modèle de langage produit le texte le plus probable au vu de la demande, sans accès à une source ni notion de vérité. Lorsque l’information exacte n’est pas disponible dans ce qu’il a appris, il produit une formulation plausible. Le résultat porte les mêmes marques de certitude qu’une réponse exacte.
Pourquoi c’est important
C’est la caractéristique la plus dangereuse pour un communicant, parce qu’elle ne se voit pas. Un texte mal écrit se repère ; une référence inventée, un chiffre approximatif ou une loi qui n’existe pas passent la relecture, surtout quand ils confirment ce qu’on espérait.
Comment ça marche
Les inventions se concentrent sur des catégories identifiables : références bibliographiques, textes de loi, chiffres précis, citations attribuées, dates, noms de personnes et de structures. Tout ce qui ressemble à une donnée vérifiable est précisément ce qu’il faut vérifier.
Méthode, étape par étape
Traiter toute donnée chiffrée comme non vérifiée jusqu’à preuve du contraire.
Remonter à la source primaire de chaque référence citée, systématiquement.
Se méfier renforcée sur le droit, la santé et les chiffres officiels.
Demander au modèle ses sources, puis vérifier qu’elles existent réellement.
Ne jamais publier une citation attribuée sans l’avoir retrouvée ailleurs.
Se souvenir qu’une reformulation confiante n’est pas une confirmation.
Employer le modèle pour structurer et reformuler plutôt que pour établir des faits.
Faire relire par quelqu’un qui connaît le sujet, pas seulement la langue.
Un cas concret
Demandez à un modèle l’article de loi qui encadre une pratique : il vous donnera un numéro d’article, une date et un intitulé crédibles. Dans un cas sur plusieurs, l’article n’existe pas sous cette forme. Rien dans la réponse ne le laisse deviner.
Les erreurs à éviter
Considérer l’assurance du ton comme un indice de fiabilité.
Vérifier le style et pas les faits.
Demander une confirmation au même modèle, qui confirmera.
Publier une référence bibliographique sans l’avoir ouverte.
Les bons réflexes
Ce qui ressemble à une donnée vérifiable doit être vérifié.
Structurer et reformuler, oui. Établir des faits, non.
Le même modèle confirmera toujours : vérifier ailleurs.