Assistant conversationnel : quand une réponse erronée arrive devant le juge
Lorsqu’un assistant conversationnel donne à un client une information fausse sur un prix, un délai ou une condition, le litige porte d’abord sur une question de fait : d’où venait la réponse, et le système pouvait-il la produire ? Une expertise peut l’établir, avant tout procès en référé ou au cours de l’instance.
Mis à jour le
En bref
| Point | En bref |
|---|---|
| Question technique centrale | Se faire communiquer l’échange complet, l’identifiant de session et les journaux du serveur correspondants, et vérifier leur concordance avec la capture produite. |
| Preuve à conserver en priorité | Côté client : captures d’écran horodatées et, si possible, constat d’un commissaire de justice sur la page de l’assistant. |
| Profil d’expert | La spécialité E.1.8 « Robotique, intelligence artificielle » couvre le fonctionnement des modèles de langage et de leurs bases documentaires. Si l’authenticité de la capture est contestée, un avis en criminalistique des données numériques (rubrique G.13) peut être recueilli. |
| Textes principaux | Code de la consommation, article L111-1 ; Code de la consommation, article L121-2 ; Règlement (UE) 2024/1689, article 50 (version consolidée au 27 juillet 2026) ; Code de procédure civile, article 238 |
| Limite de la mission | L’expert établit des faits ; il ne se prononce pas sur la faute ou la responsabilité (CPC, art. 238). |
Référence de ce passage https://www.expert-judiciaire.ai/scenarios/assistant-conversationnel/#en-bref
La situation
Sur le site d’un fournisseur d’énergie, l’assistant conversationnel indique à un client qu’il peut résilier son contrat sans frais avant la fin de l’engagement. La facture de clôture applique pourtant des frais de résiliation, conformément aux conditions générales. Le client produit une capture d’écran de l’échange ; le fournisseur répond que l’assistant « n’engage pas » l’entreprise.
Quels points de mission pour l’expert ?
La décision qui ordonne l’expertise énonce la mission. Dans une situation de ce type, elle pourrait par exemple charger l’expert de :
- 01
Se faire communiquer l’échange complet, l’identifiant de session et les journaux du serveur correspondants, et vérifier leur concordance avec la capture produite.
- 02
Décrire la configuration de l’assistant à la date de l’échange : modèle et version, instructions générales données au système, base documentaire consultée et son contenu à cette date.
- 03
Indiquer si la réponse reprend un document de la base documentaire, erroné ou périmé, ou si elle a été produite sans source identifiable.
- 04
Reproduire la question dans des conditions comparables et décrire la variabilité des réponses obtenues.
- 05
Décrire les garde-fous en place (restrictions sur les sujets tarifaires, renvoi vers un conseiller, mentions affichées) et l’information donnée à l’utilisateur sur le recours à une IA.
- 06
Relever si des erreurs comparables avaient été signalées à l’exploitant avant l’échange litigieux.
La mission ne peut pas lui demander de dire s’il y a faute, défaut ou responsabilité : l’expert ne doit jamais porter d’appréciations d’ordre juridique.
Quelles preuves conserver sans attendre ?
Les données techniques disparaissent vite : journaux purgés, systèmes mis à jour, installations remises en service. Avant même une éventuelle expertise, ces éléments méritent d’être préservés, au besoin par un constat ou une demande de conservation.
- Côté client : captures d’écran horodatées et, si possible, constat d’un commissaire de justice sur la page de l’assistant.
- Côté exploitant : export de la conversation et des journaux de session, avant leur purge automatique.
- Version des conditions générales et des pages d’aide en ligne à la date de l’échange.
- Configuration de l’assistant, instructions système et état de la base documentaire à cette date ; historique de leurs modifications.
- Tickets et réclamations antérieurs portant sur des réponses similaires.
Une expertise peut être demandée avant tout procès, en référé, ou au cours de la procédure.
Quel profil d’expert ?
La spécialité E.1.8 « Robotique, intelligence artificielle » couvre le fonctionnement des modèles de langage et de leurs bases documentaires. Si l’authenticité de la capture est contestée, un avis en criminalistique des données numériques (rubrique G.13) peut être recueilli.
Quels textes s’appliquent ?
| Texte | Ce qu’il prévoit | Application |
|---|---|---|
| Code de la consommation, article L111-1 | Avant le contrat, le professionnel communique de manière lisible et compréhensible les caractéristiques essentielles, le prix et les conditions contractuelles. | Contrats conclus depuis le 1er janvier 2022 |
| Code de la consommation, article L121-2 | Une pratique commerciale est trompeuse si elle repose sur des allégations fausses ou de nature à induire en erreur, notamment sur le prix ou les conditions de vente. | Version en vigueur depuis le 28 mai 2022 |
| Règlement (UE) 2024/1689, article 50 (version consolidée au 27 juillet 2026) | Les systèmes destinés à interagir avec des personnes doivent être conçus pour que celles-ci sachent qu’elles interagissent avec une IA. C’est une obligation de transparence, pas d’exactitude. | Applicable depuis le 2 août 2026 |
| Code de procédure civile, article 238 | L’expert donne un avis technique ; il ne se prononce jamais sur la responsabilité ou la faute. | Depuis 1976 |
Quelles décisions ?
- Moffatt v. Air Canada, 2024 BCCRT 149 (14 février 2024)
Décision étrangère d’un tribunal des petites créances de Colombie-Britannique, rendue en common law : l’entreprise répond de l’information donnée par l’assistant de son site comme de celle d’une page statique. À lire comme une illustration, sans valeur de précédent en France.
Aucune décision française portant sur la réponse erronée d’un assistant conversationnel à un client n’a été identifiée à la date de mise à jour.
Ce qu’il ne faut pas confondre
- L’article 50 du règlement sur l’IA impose d’informer l’utilisateur ; il ne garantit pas l’exactitude des réponses.
- Un assistant ne « décide » ni ne « ment » : c’est l’exploitant qui met l’information à disposition du public.
- La reproduction d’une réponse n’est jamais garantie à l’identique : les modèles génératifs ont une part de variabilité, qu’il faut mesurer et décrire.
Sources
Scénario type rédigé à titre d’illustration. Les textes et décisions cités ont été vérifiés sur Légifrance, EUR-Lex et le site de la Cour de justice de l’Union européenne ; ce contenu ne constitue pas un conseil juridique.
- Code de la consommation, article L111-1Légifrance
- Code de la consommation, article L121-2Légifrance
- Règlement (UE) 2024/1689, article 50 (version consolidée au 27 juillet 2026)EUR-Lex
- Code de procédure civile, article 238Légifrance
- Moffatt v. Air Canada, 2024 BCCRT 149 (14 février 2024)CanLII, Civil Resolution Tribunal de Colombie-Britannique