Une IA recommande, classe, estime ou rédige. Une organisation utilise ses résultats. Lorsque cette décision produit une erreur ou qu’une promesse environnementale se révèle fragile, qui peut l’expliquer, la revoir et en assumer les conséquences ? La distinction entre responsabilité et redevabilité permet de construire une gouvernance où les engagements s’accompagnent de preuves et de possibilités de recours.
Imaginons un réseau d’entreprises qui utilise une IA pour analyser les documents de ses fournisseurs. Le système extrait des informations, attribue un score environnemental et prépare une recommandation d’achat. Un fournisseur est écarté parce qu’une pièce a été mal interprétée. Un autre bénéficie d’une appréciation favorable à partir de données anciennes.
Ce scénario est fictif, mais les questions qu’il soulève sont très concrètes. Qui a choisi les critères ? Qui vérifie la qualité des pièces ? À qui le fournisseur peut-il s’adresser ? Qui peut suspendre le classement et faire corriger les décisions déjà prises ?
La qualité du modèle compte. La manière dont les acteurs organisent leurs responsabilités, leurs preuves et leurs droits de décision compte tout autant.
Responsabilité et redevabilité : quelle différence ?
Dans une lecture opérationnelle, la responsabilité désigne ce qu’un acteur doit faire ou garantir : définir un objectif, conduire une action, prévenir un dommage, mobiliser les moyens nécessaires. Le terme possède aussi des significations morales et juridiques, qui dépendent du contexte.
La redevabilité désigne l’obligation de rendre compte de cette action devant une personne ou une instance légitime. Elle suppose de pouvoir expliquer les choix, présenter des éléments vérifiables, répondre aux objections et donner une suite au jugement porté.
Le chercheur Mark Bovens décrit cette relation entre un acteur et un « forum » habilité à le questionner, à évaluer sa conduite et à lui demander d’en assumer les conséquences. Selon la situation, ce forum peut être une instance de gouvernance, une autorité ou un collectif représentant les personnes concernées.
| Situation | Responsabilité | Redevabilité |
|---|---|---|
| Utiliser une IA pour sélectionner des fournisseurs | Définir des critères pertinents et contrôler les résultats. | Justifier une décision particulière et permettre son réexamen. |
| Réduire les émissions d’une activité | Organiser les actions et leur donner des moyens. | Présenter le périmètre, la méthode, les résultats et les écarts. |
| Partager un indicateur dans un espace de données | Maintenir sa qualité et respecter les règles d’usage. | Identifier son émetteur, retrouver ses sources et traiter une contestation. |
Cette articulation existe déjà dans la protection des données. La CNIL définit l’accountability par la mise en place de mécanismes permettant de démontrer le respect des règles. Une organisation doit donc pouvoir étayer ce qu’elle affirme.
Pourquoi l’IA rend cette distinction décisive
Une décision assistée par IA résulte d’une succession de choix : données disponibles, modèle retenu, configuration du service, critères métier, seuils de validation et pratiques des utilisateurs. Ces choix sont répartis entre plusieurs équipes et fournisseurs. La difficulté apparaît lorsque chacun connaît sa tâche, tandis que la responsabilité du résultat d’ensemble reste floue.
Dans notre exemple, l’éditeur peut répondre du fonctionnement technique de l’outil. Le réseau d’entreprises choisit les critères de sélection. Un acheteur valide le classement. Le fournisseur transmet ses justificatifs. Une gouvernance utile explicite les engagements de chacun et désigne l’organisation chargée de répondre à la contestation.
Les principes de l’OCDE sur l’IA relient précisément la redevabilité aux rôles des acteurs et à la traçabilité des données, des processus et des décisions tout au long du cycle de vie.
Donner aux personnes un pouvoir réel de contrôle
La présence d’un humain dans le processus apporte une garantie lorsque cette personne dispose du temps, des informations, des compétences et de l’autorité nécessaires pour intervenir. Une validation rapide, sans accès aux pièces ni possibilité d’arrêter le traitement, offre une protection limitée.
Il faut donc préciser les décisions que l’utilisateur peut modifier, les situations à transmettre à un autre niveau et les conditions de suspension du service. La responsabilité individuelle doit rester cohérente avec les moyens réellement accordés par l’organisation.
Relier l’explication à une possibilité de recours
Une explication technique peut aider à comprendre un score. La personne affectée a aussi besoin de savoir comment faire rectifier une donnée, demander un réexamen et obtenir une réponse motivée. La redevabilité devient effective lorsque la contestation peut changer une décision ou une pratique.
Environnement : passer de l’engagement à l’impact démontré
Cette logique éclaire les politiques climat, la traçabilité des matières et les allégations environnementales. L’ADEME rappelle qu’une allégation fiable doit être compréhensible, proportionnée et étayée par des données vérifiables ainsi que des méthodes reconnues.
Pour structurer une démarche, on peut distinguer quatre niveaux de preuve. Cette grille, issue de la matière de départ, constitue un repère de travail :
- L’intention : l’organisation exprime une ambition, par exemple réduire ses émissions.
- L’engagement : elle définit un objectif daté, un périmètre et un pilote.
- Le résultat mesuré : elle documente l’évolution observée, sa méthode et ses incertitudes.
- L’impact attribuable : elle étaye la part du changement liée à son action, en examinant les autres facteurs explicatifs.
Une baisse de consommation peut ainsi provenir d’une amélioration technique, d’une météo plus clémente ou d’une diminution d’activité. Le chiffre observé prend son sens avec ses conditions de production. Attribuer le bénéfice à une action exige une analyse supplémentaire.
Dans une chaîne d’approvisionnement bois, une politique d’achats durables peut être complétée par un dossier reliant un lot à ses sources, aux justificatifs examinés, aux contrôles réalisés et à la décision d’achat. Cet exemple de gouvernance illustre la continuité recherchée entre engagement, données et décision ; il ne constitue pas à lui seul une démonstration de conformité réglementaire.
IA et environnement : deux objets de redevabilité
Un usage d’IA à finalité environnementale doit être évalué sous deux angles : les ressources qu’il mobilise et la qualité des décisions qu’il aide à prendre.
L’OCDE distingue les impacts directs du cycle de vie de l’IA et les effets indirects de ses applications. Cette approche invite à considérer les équipements et leur fonctionnement, ainsi que les changements d’activité rendus possibles par le service.
Pour un outil de pilotage énergétique, la démarche consiste à documenter les économies observées, les conditions de comparaison et les ressources mobilisées par le dispositif. Elle doit aussi examiner les effets rebond, par exemple une augmentation des usages facilitée par les gains obtenus, et les éventuels déplacements d’impact entre carbone, eau et matières.
Lorsque l’IA produit un score environnemental, une autre vérification s’ajoute : les données sont-elles adaptées au territoire et à l’activité ? Les hypothèses restent-elles accessibles ? Un changement de modèle modifie-t-il le classement ? Une estimation doit conserver son statut d’estimation jusqu’à ce que les éléments disponibles permettent de conclure autrement.
Ces questions prolongent notre analyse de l’impact environnemental de l’IA et des conditions de démonstration de ses bénéfices.
Construire une chaîne de redevabilité en sept questions
Le cadre volontaire AI RMF 1.0 du NIST articule gouvernance, compréhension du contexte, mesure et gestion des risques. En nous appuyant sur cette logique et sur la synthèse de départ, nous proposons sept questions pour concevoir un dispositif opérationnel. Elles constituent une méthode de travail, à adapter aux enjeux du projet.
- Quelle est la finalité ? Décrire le besoin, les personnes affectées, les alternatives et les limites de l’automatisation.
- Qui porte la décision ? Nommer les acteurs chargés d’agir et le niveau de gouvernance tenu de répondre du résultat, avec leurs moyens et leurs pouvoirs.
- Quelles preuves sont attendues ? Définir les sources, la méthode, les contrôles, les incertitudes et le niveau de vérification nécessaire.
- Peut-on reconstituer le chemin de décision ? Relier les données utilisées, la version du système, son résultat et l’intervention humaine.
- Devant qui faut-il rendre compte ? Identifier les instances compétentes et organiser la représentation des parties affectées.
- Comment demander un réexamen ? Prévoir un contact accessible, un délai de réponse et une procédure de correction.
- Quelles suites sont possibles ? Définir les mesures correctives, les conditions de suspension et les modalités d’apprentissage après un incident.
La documentation reste proportionnée aux risques. Il convient de choisir les informations utiles, leurs destinataires, leur durée de conservation et leurs protections. Un dossier de preuve peut être consultable par un auditeur habilité tout en préservant les données personnelles et les informations commerciales sensibles.
Faire de la preuve une fonction des communs numériques
Dans un espace de données environnementales, plusieurs organisations peuvent produire, transformer et réutiliser le même indicateur. La gouvernance gagne alors à accompagner chaque information importante d’éléments permettant d’en apprécier la fiabilité.
Un ensemble minimal de métadonnées pourrait préciser l’émetteur et son mandat, l’objet concerné, la date, les sources, la méthode et sa version, les limites connues, les contrôles effectués, les droits d’usage et le point de contact pour une contestation.
Cette proposition d’architecture permettrait de distinguer une donnée déclarée par son producteur, une valeur estimée par un modèle, un résultat contrôlé et une information vérifiée par un tiers. Le statut de preuve pourrait évoluer tout en conservant l’historique des corrections.
Le collectif doit également décider qui peut contester, qui arbitre et qui assume les coûts de vérification. Ces règles constituent une part du commun au même titre que les données et le logiciel. Elles rendent possible une coopération dans laquelle chaque contribution reste compréhensible et discutable.
Commencer par une décision réelle
Un premier chantier peut tenir dans les trente prochains jours : sélectionner un usage d’IA ou une allégation environnementale, nommer ses responsables et reconstituer le dossier d’une décision récente. Cette expérience fait rapidement apparaître les données manquantes, les pouvoirs imprécis et les recours difficiles à exercer.
Dans un second temps, le collectif peut tester une contestation de bout en bout. Revenons au fournisseur mal classé : son signalement est-il reçu ? La pièce peut-elle être corrigée ? Le score est-il recalculé ? Les acheteurs concernés sont-ils informés ? La cause de l’erreur conduit-elle à modifier le processus ?
Le résultat de ce test fournit un indicateur concret de maturité. L’organisation apprend si elle sait expliquer, corriger et faire évoluer sa décision dans des conditions réelles.
La responsabilité fixe les engagements et les moyens d’agir. La redevabilité organise la preuve, le dialogue et les suites données aux résultats. Ensemble, elles permettent de construire une confiance qui repose sur la capacité collective à comprendre les décisions et à les améliorer.