La vérification des réponses
Fausse précision
Réponse à la question de départ : pas sans vérifier. Un numéro d’article de loi est exactement le genre d’information qu’un modèle peut inventer : il a la forme attendue, il est plausible, et rien dans le texte ne le distingue d’un numéro exact. En 2023, aux États-Unis, des avocats ont été sanctionnés pour avoir déposé devant un tribunal des décisions de justice inventées par ChatGPT.
Ce n’est pas une faiblesse passagère. Un modèle de langage produit ce qui est vraisemblable. Les idées générales, très présentes dans ses données, sont souvent justes. Les détails précis, plus rares, sont ceux qu’il reconstitue, et parfois invente.
Méthode en quatre gestes
Premier geste : repérer ce qui se vérifie. Chiffres, dates, noms propres, citations, titres, références, adresses de sites. Le reste, le raisonnement et les explications générales, se juge à sa cohérence.
Deuxième geste : demander les sources, puis les ouvrir. Une source non ouverte ne prouve rien. Lisez le passage, pas seulement le titre.
Troisième geste : recouper. Cherchez la même information dans une source fiable et indépendante, un site officiel, un média reconnu, un ouvrage de référence.
Quatrième geste : proportionner. Un brouillon de courrier se relit ; une information qui engage votre santé, vos droits ou votre argent se vérifie toujours. Et quand un assistant agit à votre place, réservation, achat, envoi, la vérification se fait avant, pas après : relisez ce qu’il s’apprête à faire.
- 1 Repérer Chiffres, dates, noms, citations, références, adresses de sites.
- 2 Ouvrir les sources Une source non ouverte ne prouve rien. Lire le passage, pas seulement le titre.
- 3 Recouper Retrouver l’information dans une source fiable et indépendante.
- 4 Proportionner Santé, droits, argent : vérifier toujours. Une action de l’assistant : relire avant.
Adresses utiles
Pour les démarches et les droits, Service-Public.fr est le site officiel de l’administration française. Pour la santé et les remboursements, le site de l’Assurance maladie, Ameli. Pour les textes de loi eux-mêmes, Légifrance. Un assistant peut vous aider à comprendre ce que vous y lisez ; ces sites, eux, font foi.
Essai sur un assistant réel
Mettez un assistant à l’épreuve sur un terrain où il invente souvent, les références précises.
Donne-moi trois livres en français qui racontent l’histoire de l’intelligence artificielle, avec pour chacun le titre exact, l’auteur, l’éditeur et l’année de parution.
Vérifiez ensuite chaque livre dans le catalogue de la Bibliothèque nationale de France ou sur le site d’une librairie. Les trois existent-ils, avec exactement ces informations ? Notez ce qui est juste, approximatif ou inventé.
Exemple de réponse, si vous n’avez pas d’assistant
Réponse reconstituée d’après des essais réels, raccourcie. La vôtre sera différente.
1. Yann Le Cun, Quand la machine apprend, Odile Jacob, 2019. 2. Jean-Gabriel Ganascia, Le Mythe de la Singularité, Seuil, 2017. 3. Daniel Crevier, À la recherche de l’intelligence artificielle, Flammarion, 1997. Dans cet exemple, les trois livres existent avec ces informations. Dans la réalité, il arrive qu’un des trois soit inventé, ou qu’un éditeur ou une année soit faux : seule la vérification dans un catalogue le dit.
N’y ajoutez aucune information personnelle. Si votre employeur ou votre établissement fournit un outil, utilisez celui-là.