Faites l'expérience : posez exactement la même question, deux fois, au même modèle. Les deux réponses différeront — parfois à la marge, parfois sur le fond. Ce n'est pas un défaut de fabrication : c'est un choix de conception. Les modèles génératifs tirent chaque mot au sort dans une distribution de probabilités, et une part de hasard est délibérément conservée pour rendre les réponses variées, naturelles, créatives.
Pour converser, c'est une qualité. Pour décider, c'est disqualifiant.
Rien n'est reproductible, donc rien n'est auditable.
Toute discipline de confiance repose sur la reproductibilité. Une expérience scientifique qui ne peut pas être répétée n'est pas un résultat, c'est une anecdote. Un calcul comptable qui donnerait deux totaux différents selon l'heure ne passerait aucun commissariat aux comptes. Un test de laboratoire non reproductible ne certifie rien. Partout où l'on engage sa responsabilité, la règle est la même : ce qui ne se rejoue pas ne se prouve pas.
Or nous confions chaque jour davantage d'analyses, de synthèses et de recommandations à des systèmes dont, par construction, aucune sortie ne peut être rejouée. Quand un régulateur, un client ou un juge demandera « pourquoi votre système a-t-il affirmé cela ? », répondre « il ne le dirait plus pareil aujourd'hui » n'est pas une défense. C'est un aveu.
Le droit l'a déjà compris : l'AI Act européen exige la traçabilité des décisions des systèmes à haut risque — des journaux, des enregistrements, la capacité de reconstituer ce qui s'est passé. On ne peut pas tracer ce qui ne se reproduit pas. Le déterminisme n'est donc pas une préférence d'ingénieur : c'est la condition d'entrée de l'IA dans les processus qui engagent.
Un verdict digne de ce nom doit pouvoir être rejoué — même question, mêmes sources, même résultat, aujourd'hui, dans six mois ou dans six ans, quels que soient les modèles passés entre-temps. Rejouable, ou récusable : il n'y a pas de troisième catégorie.
C'est un principe de construction chez (Urs) : chaque vérification produit un verdict déterministe, horodaté, rejouable bit pour bit depuis sa chaîne d'audit — la variabilité créative reste aux modèles, la reproductibilité revient à la preuve. Voir l'architecture de confiance →