Une IA fiable n'est pas une IA sûre d'elle
Une IA médicale se trompe sur le même ton que lorsqu'elle a raison. La fiabilité ne se joue pas dans le modèle, mais dans ce qu'on écarte, ce qu'on montre, et ce qu'on fait quand on ne sait pas.
Juisci
Un soignant pose une question clinique à une intelligence artificielle. La réponse arrive en quelques secondes, bien construite, assurée. Elle est peut-être juste. Rien, dans la façon dont elle est écrite, ne permet de le savoir.
C'est le vrai problème, et ce n'est pas celui qu'on désigne d'habitude. On reproche aux modèles de se tromper. Ils se trompent, comme tout outil. Ce qui les rend risqués en médecine, c'est qu'ils se trompent sur le même ton que lorsqu'ils ont raison. Le Dr Nabil Bouali, cardiologue au CHU de Poitiers et président du Collège des Cardiologues en Formation, le dit sans détour : l'outil peut affirmer une information fausse sans sourciler, et on peut s'y faire prendre.
Une réponse assurée et une réponse fiable se ressemblent. C'est précisément ce qui pose problème.
Pourquoi ça pèse plus lourd en médecine qu'ailleurs
Dans la plupart des usages, une erreur se corrige au tour suivant. En consultation, non. Et surtout, la responsabilité ne se délègue pas : quoi qu'il arrive, c'est le praticien qui signe l'ordonnance et qui répond de sa décision.
Le Dr Bouali en tire une conséquence qui règle, à elle seule, le débat sur l'adoption : on ne peut pas se sentir responsable de quelque chose qu'on ne comprend pas. Un outil qui ne montre pas son raisonnement ne peut donc pas entrer dans une chaîne de responsabilité médicale. Pas parce qu'il serait mauvais, mais parce qu'il est impossible d'en assumer la sortie.
C'est pour ça que l'explicabilité n'est pas une option de confort. C'est la condition d'entrée.
Ce qui entre
La fiabilité d'une réponse commence avant la question, dans ce qu'on accepte de lire.
JuisciGPT s'appuie sur deux choses : un corpus indexé de littérature scientifique sélectionnée, réindexé en continu, et une recherche scientifique sur le web qui tourne à chaque requête. Chaque source est étiquetée par provenance, de sorte qu'on voit sur quoi une affirmation repose au lieu de le supposer. Rien n'est figé à une date d'entraînement.
Chaque revue est confrontée à la liste des revues recommandables publiée par la Conférence des Doyens de Médecine et le CNU Santé, ainsi qu'à d'autres registres indépendants. Une revue qu'aucun d'eux ne cautionne est fortement dépondérée. Nous ne notons pas les revues selon notre propre jugement : nous nous appuyons sur des listes établies par ceux dont c'est le métier.
Savoir d'où vient une affirmation est une garantie modeste, et c'est une des rares qu'on puisse réellement donner.
Ce que nous montrons
Une réponse sans son chemin ne vaut rien. Chaque affirmation est rattachée à sa source, et chaque source est présentée avec de quoi la juger : le rang de la revue, sa reprise par les citations, sa correspondance à la question posée, son intégration dans les recommandations.
L'indice de confiance affiché est calculé à partir du poids de ces sources. Il n'est jamais généré par le modèle. La différence n'est pas cosmétique : un chiffre produit par le modèle qui rédige la réponse n'est pas une mesure, c'est une opinion de plus.
Et le moteur ne se contente pas de citer des titres. Sur une recherche, il cherche à récupérer le texte intégral des publications qu'il retient. Quand le texte intégral n'est pas disponible, il travaille sur le résumé ou sur un extrait.
Ce que nous faisons quand nous ne savons pas
C'est le point qui rend tout le reste crédible.
Pas de source, pas de réponse. Si la recherche ne ramène rien, l'agent décline au lieu de produire un texte plausible. Sur une question qui engage une décision de soin, lorsqu'un type de publication est demandé explicitement, le moteur applique le filtre strictement et signale ce qui manque au lieu d'élargir pour avoir quelque chose à dire.
Un modèle généraliste vous répondra toujours. Le refus de répondre est une fonctionnalité, pas une panne.
Ce que nous ne faisons pas
L'outil n'est pas fait pour les données de patient : on demande aux utilisateurs de ne rien saisir qui permette d'identifier un patient, et il ne travaille qu'à partir d'information publiée. L'hébergement est dans l'Union européenne, et les conversations se suppriment avec le compte, sauf un échange retenu pour l'évaluation par nos experts, que nous conservons pour évaluer le moteur.
Un avertissement reste affiché en permanence, dans les huit langues de l'application : l'IA peut faire des erreurs, vérifiez à la source.
Nous ne nous présentons pas comme un meilleur juge de la science. Nous ne produisons pas cette littérature et nous ne sommes pas en position de la noter. Nous montrons le chemin jusqu'à la source, et la lecture critique reste au clinicien.
La vraie question n'est pas celle qu'on pose
Le débat public demande s'il faut utiliser l'intelligence artificielle en santé. Il est déjà tranché par les faits. L'enquête INSIGHT-AI France, menée auprès de 756 professionnels par le Collège des Cardiologues en Formation et le Cercle Cardio-IA de la Société française de cardiologie, montre que 23 % utilisent l'IA au moins une fois par semaine et 40 % occasionnellement, quand 7,8 % y ont reçu une formation.
L'écart n'est pas entre ceux qui l'utilisent et ceux qui s'en passent. Il est entre ceux qui peuvent vérifier ce qu'on leur répond et ceux qui ne le peuvent pas.
Une IA fiable n'est pas une IA qui a toujours raison. C'est une IA dont on peut constater quand elle a tort.
Source : Bouali N, Domart S, Amara W, et al., pour les investigateurs INSIGHT-AI-France. Artificial intelligence adoption in French cardiovascular care: a multiprofessional survey of barriers and facilitators. European Heart Journal — Digital Health. 2026;7(4):ztag042. doi:10.1093/ehjdh/ztag042