Tôt ou tard, quelqu'un demandera à une firme pourquoi elle a pris une décision de produit : pourquoi un fonds est resté sur la tablette après le départ de son gestionnaire, pourquoi un billet structuré a été approuvé, pourquoi une alerte a été fermée sans action. Si l'IA a joué un rôle dans cette décision, la réponse doit inclure ce que l'IA a produit, sur quoi cela reposait, et ce qu'une personne en a fait.
La plupart des outils d'IA ne consignent pas cela par défaut. Ils produisent un résultat, quelqu'un l'utilise, et la piste s'arrête là. Quand la question arrive un an plus tard, la firme peut montrer la décision, mais pas comment elle a été prise.
Cet article présente ce qu'une décision de produit assistée par l'IA doit démontrer, et comment bâtir la piste d'audit qui le démontre. Il couvre ce que les régulateurs ont dit de l'explicabilité et des dossiers, la différence entre expliquer un modèle et expliquer une décision, ce qu'il faut consigner pour chaque résultat de l'IA, un exemple de dossier, un test pour savoir si une décision peut être reconstituée, des principes de conception et des lacunes courantes, ainsi que les responsabilités et un exemple de processus écrit.
Il porte sur l'IA utilisée dans le travail de connaissance du produit : diligence raisonnable, approbation et surveillance des produits. Il reflète les publications disponibles à la date ci-dessus.
Aucun régulateur n'a rédigé de règle distincte de tenue de dossiers pour l'IA. Ils ont dit, clairement, que les obligations existantes de tenue de dossiers s'appliquent, et que les outils d'IA doivent être suffisamment explicables pour y satisfaire.
Les Autorités canadiennes en valeurs mobilières lient directement l'explicabilité aux dossiers :
Le personnel des ACVM décrit un niveau élevé d'explicabilité comme signifiant que « le raisonnement d'un système d'IA est clair et compréhensible », et privilégie « le degré d'explicabilité le plus élevé possible » pour le type de système utilisé.[1]
Dans leur examen des pratiques de connaissance du produit de décembre 2025, les ACVM et l'OCRI ont ajouté deux attentes qui s'appliquent aux outils automatisés : que les politiques des firmes décrivent les systèmes automatisés en détail, et que les firmes qui s'appuient sur des modèles algorithmiques conservent la preuve d'une surveillance continue. Le même examen cherchait des dossiers d'approbation montrant un « examen sérieux » des éléments évalués.[2] Une approbation qui s'est appuyée sur un résultat d'IA est tenue à la même norme.
Aux États-Unis, le rapport annuel de surveillance réglementaire 2026 de la FINRA décrit des firmes qui « conservent les journaux de requêtes et de résultats à des fins de responsabilité et de dépannage ; suivent quelle version du modèle a été utilisée et quand » [traduction].[3] Sur les agents d'IA, il prévient que « les tâches de raisonnement d'agent complexes et à étapes multiples peuvent rendre les résultats difficiles à tracer ou à expliquer, ce qui complique l'auditabilité », et cite « comment suivre les actions et décisions des agents » parmi les considérations pour les firmes.[3]
| Juridiction | Règle | Ce qu'elle exige, en bref |
|---|---|---|
| Canada | Règlement 31-103, art. 11.5 et 11.6[4] | Les sociétés inscrites tiennent des dossiers qui consignent fidèlement leurs activités et démontrent la mesure de leur conformité à la législation en valeurs mobilières, et les conservent pendant la période prescrite sous une forme accessible |
| États-Unis (courtiers) | Règle 17a-4 de la SEC ; règle 4511 de la FINRA[5] | Conservation des livres et registres requis, y compris les communications d'affaires, pendant des périodes fixées et sous une forme accessible |
| États-Unis (conseillers) | Règle 204-2 de la SEC[6] | Exigences de livres et registres pour les conseillers en placement inscrits, y compris les dossiers à l'appui des conseils et les communications écrites |
Aucune de ces règles ne mentionne l'IA, et aucune n'en a besoin. Si les dossiers de connaissance du produit d'une firme doivent démontrer sa conformité, et qu'un outil d'IA a produit une partie de l'analyse derrière une décision de produit, le dossier doit capturer cette partie. Quels dossiers d'IA précis relèvent de chaque règle est une question pour l'examen juridique de la firme ; l'approche pratique consiste à conserver la piste d'IA aux côtés du dossier de produit qu'elle soutient, pour la même période.
| Au niveau du modèle | Au niveau de la décision | |
|---|---|---|
| Question à laquelle il répond | Comment cet outil fonctionne-t-il ? | Pourquoi la firme est-elle arrivée à cette conclusion sur ce produit ? |
| Qui pose la question | Validateurs de modèles, auditeurs, inspecteurs qui examinent le programme | Superviseurs, inspecteurs qui examinent un dossier, la firme elle-même plus tard |
| Ce qui y répond | Description dans la politique, dossier de validation, limites connues | Les intrants, le résultat, ses sources, et ce que le réviseur a fait |
| Réalisable avec l'IA moderne ? | En partie ; le raisonnement interne des grands modèles est difficile à inspecter | Oui, si les résultats sont liés aux sources et que la révision est consignée |
Pour la connaissance du produit, l'explicabilité au niveau de la décision est celle qui compte le plus, et elle est réalisable. Une firme ne pourra peut-être jamais expliquer exactement comment un grand modèle de langage est arrivé à sa formulation. Elle peut toujours montrer que l'outil a dit que les frais de gestion d'un fonds ont augmenté de 0,10 %, que l'énoncé provenait de la page 3 de la modification déposée à une date donnée, et qu'un analyste l'a vérifié et a consigné la décision. C'est une décision explicable, même si le modèle à l'intérieur ne l'est pas entièrement.
Une piste d'audit pour les décisions assistées par l'IA relie quatre choses : ce qui est entré, ce qui est sorti, d'où cela provenait, et ce qu'une personne en a fait.
| Élément | Ce qu'il faut capturer | Pourquoi |
|---|---|---|
| Intrants | Les documents et données que l'outil a utilisés, avec leurs dates et une copie figée ou une empreinte de chacun | Les documents changent ; le dossier doit montrer ce que l'outil a réellement lu |
| Outil et version | Nom de l'outil, modèle sous-jacent et version, version de la requête ou de la configuration | Le même intrant peut produire des résultats différents sous une autre version |
| Moment | Quand le résultat a été produit | Situe le résultat par rapport à ce que la firme savait à ce moment |
| Résultat | Le résultat exactement tel que produit, avant toute modification | Montre ce que l'outil a dit, séparément de ce que la firme a conclu |
| Sources | Pour chaque énoncé ou valeur, le document, la page ou le point de données d'origine | Rend chaque résultat vérifiable |
| Signaux | Tout avertissement émis par l'outil, comme une faible confiance, un intrant numérisé ou des données manquantes | Montre si les faiblesses connues étaient visibles pour le réviseur |
| Révision | Qui l'a révisé, quand, et s'il l'a accepté, modifié ou rejeté, avec les modifications capturées | Montre que le jugement humain a été appliqué, et où l'outil s'est trompé |
| Décision | Un lien vers la décision de produit que le résultat a éclairée, et le raisonnement consigné par le décideur | Relie la piste d'IA au dossier de produit |
Séparer les mots de l'outil de ceux de la personne. Si un résumé rédigé par l'IA est collé dans un dossier de produit et légèrement modifié, personne ne pourra dire plus tard quelles parties étaient l'analyse de la firme. Le résultat original, les modifications et le texte final devraient tous être récupérables.
Un dossier d'audit illustratif pour un fonds hypothétique :
Ce dossier répond à toutes les questions qu'un réviseur est susceptible de poser : ce que l'outil a vu, ce qu'il a dit, d'où provenait chaque énoncé, où il s'est trompé, qui l'a vérifié et qui a décidé. L'erreur sur l'auditeur est aussi utile que les constats exacts : c'est la preuve que la révision a été réelle, et un point de données pour la surveillance de l'outil.
Choisissez une décision de produit assistée par l'IA datant de six à douze mois et essayez de répondre à ces questions en n'utilisant que les dossiers, sans interroger quiconque y a participé :
| Question | Dossier qui y répond |
|---|---|
| Quels documents et données l'outil a-t-il utilisés ? | Intrants, avec copies figées |
| Quel outil et quelle version ont produit le résultat ? | Outil et version |
| Qu'a-t-il produit exactement ? | Résultat, non modifié |
| D'où provenait chaque énoncé ? | Sources |
| A-t-il émis des avertissements ? | Signaux |
| Qui l'a vérifié, et qu'a-t-il changé ? | Révision |
| Qui a pris la décision, et pourquoi ? | Décision |
| L'outil était-il validé et approuvé pour cet usage à ce moment ? | Inventaire des modèles et dossier de validation |
Toute question à laquelle les dossiers ne peuvent répondre est une lacune. Faire ce test sur un petit échantillon chaque année, et après tout changement à un outil d'IA, montre si la piste fonctionne avant qu'un inspecteur ne la teste.
L'explicabilité est bien plus facile à intégrer dès le départ qu'à ajouter plus tard. L'essentiel tient à quelques choix de conception faits lors de la sélection ou de la configuration d'un outil.
| Lacune | Conséquence | Correctif |
|---|---|---|
| Résumé d'IA collé dans le dossier de produit sans marquage | La firme ne peut montrer quelle analyse était la sienne | Conserver le résultat original séparément ; marquer le texte rédigé par l'IA |
| Aucun dossier de la version du modèle ou de la requête | Le résultat ne peut être reproduit ni expliqué après une mise à jour du fournisseur | Estampiller les versions sur chaque résultat |
| Le réviseur écrase le résultat de l'IA | La preuve de la révision, et des erreurs de l'outil, est perdue | Conserver l'original, les modifications et le texte final |
| Journaux détenus uniquement dans le système du fournisseur, supprimés après une courte période | Dossiers disparus avant la fin de la période de conservation | Conservation contractuelle, ou export vers les dossiers de la firme |
| Document source non conservé | Impossible de montrer ce que l'outil a lu si l'émetteur modifie ensuite la version en ligne | Conserver une copie figée de chaque intrant |
| Actions des agents résumées, pas journalisées | Impossible de tracer ce qu'un agent a fait ou pourquoi | Journal des actions étape par étape |
| Réponses de l'assistant de recherche utilisées sans dossier | Un intrant d'une décision disparaît | Sauvegarder les réponses qui éclairent une décision de produit dans le dossier de produit, avec les sources |
La firme conçoit la piste. Tous ceux qui utilisent des résultats d'IA dans le travail sur les produits y contribuent.