Aller au contenu principal

NOTE

La gouvernance de l'IA dans les secteurs réglementés.

Ce que les conseils d'administration font de travers, et comment y remédier avant que le régulateur ne le demande.

5 min de lecture · PDF 0.4 MB

Dans les secteurs réglementés, l'IA prend déjà ou oriente des décisions importantes : qui est approuvé, ce qui est signalé, quel dossier est traité en premier. La plupart des conseils le savent en principe. Bien moins peuvent répondre à trois questions simples : quelle IA utilisons-nous, quel est le niveau de risque de chaque système, et qui est responsable en cas de problème ?

Cet écart va peser de plus en plus. Dans de nombreux marchés, la régulation de l'IA passe de principes volontaires à une véritable supervision, avec des attentes sur les inventaires, la classification des risques, la supervision humaine et le reporting. Les organisations qui comblent cet écart dès maintenant déploieront l'IA plus vite ensuite. Les autres passeront les deux prochaines années à se justifier.

Cinq erreurs fréquentes des conseils

  1. Réduire la gouvernance à un document. Une politique d'IA responsable approuvée une fois par an ne gouverne rien. La gouvernance se joue dans les décisions prises chaque semaine : ce qui est développé, ce qui est acheté, ce qui est mis en service, et ce qui est arrêté.

  2. Ne pas savoir quelle IA est utilisée. La plupart des organisations savent citer leurs grands projets d'IA. Très peu peuvent recenser l'IA intégrée aux logiciels de leurs fournisseurs, ou les outils d'IA générative que les équipes utilisent chaque jour. On ne gouverne pas ce que l'on ne voit pas.

  3. Traiter tous les systèmes de la même façon. Un assistant qui indique les horaires d'ouverture et un modèle qui influence des approbations ne présentent pas le même risque. Appliquer le même processus lourd aux deux ralentit tout, sans pour autant traiter l'essentiel.

  4. Laisser la responsabilité à la DSI. Quand l'IA relève uniquement de la fonction technologique, les responsables métier cessent de se sentir responsables de ses résultats. La responsabilité doit revenir à ceux qui portent la décision que l'IA soutient.

  5. Ne regarder qu'avant la mise en service. Les systèmes d'IA évoluent après leur lancement. Les données dérivent, les fournisseurs mettent à jour leurs modèles, les équipes utilisent les outils autrement. Sans surveillance, l'évaluation des risques faite au lancement est dépassée en quelques mois.

Ce qui fonctionne : gouverner le cycle de vie, pas le document

Une gouvernance efficace suit chaque système à travers les mêmes cinq étapes, et y revient à chaque évolution.

  1. Contexte.

    Ce que fait le système, pour qui, avec quelles données, et où il ne doit pas être utilisé.

  2. Identifier.

    Les risques pour les personnes, l'entreprise, les données, la sécurité et la conformité.

  3. Évaluer.

    Probabilité et impact, et un niveau de risque clair : inacceptable, élevé, limité ou minimal.

  4. Traiter.

    Des contrôles et une supervision humaine proportionnés au risque, et une décision claire : approuver, limiter ou arrêter.

  5. Surveiller.

    Performance, dérive, équité et incidents, avec des revues régulières.

L'effort suit le risque. Les outils à risque minimal avancent vite, avec des contrôles légers. Les systèmes à risque élevé font l'objet de tests approfondis, de responsables désignés et d'une supervision rapprochée. Rien d'inacceptable n'est mis en service.

Les 90 premiers jours, concrètement

Jours 1 à 30 : voir.

Constituer un inventaire unique de tous les systèmes d'IA utilisés, y compris les outils fournisseurs et d'IA générative, chacun avec un responsable métier désigné.

Jours 31 à 60 : classer.

Attribuer un niveau de risque à chaque système selon une méthode simple et documentée. Définir qui peut approuver quoi, et créer un petit comité IA réunissant métier, risques, juridique et technologie.

Jours 61 à 90 : piloter.

Exiger une évaluation des risques et une validation avant toute mise en service à risque élevé. Commencer à surveiller les systèmes déjà en production, et adresser au conseil un premier rapport synthétique sur les risques de l'IA.

Quatre-vingt-dix jours ne rendront pas la gouvernance parfaite. Ils la rendront réelle, et c'est ce que les régulateurs, les clients et les conseils regardent en premier.

Cinq questions que chaque conseil devrait poser ce trimestre

  1. Disposons-nous d'un inventaire complet de l'IA que nous utilisons, y compris celle intégrée aux produits de nos fournisseurs ?

  2. Lesquels de nos systèmes d'IA sont à risque élevé, et qui est responsable de chacun ?

  3. Que doit-il se passer avant la mise en service d'un système d'IA à risque élevé, et qui le valide ?

  4. Comment savons-nous que nos systèmes d'IA fonctionnent toujours comme prévu après leur lancement ?

  5. Quand le conseil a-t-il reçu un rapport sur les risques de l'IA pour la dernière fois, et que disait-il ?

Si les réponses ne sont pas claires, c'est un point de départ, pas un échec.

Par où commencer

Faites le diagnostic gratuit de gouvernance et de gestion des risques de l'IA : douze questions, environ six minutes, avec vos trois prochaines actions prioritaires. Ou demandez un diagnostic de 30 minutes avec Ravinel.

Cette note est une information générale et ne constitue pas un conseil juridique. Alignée sur l'ISO/IEC 42001, le NIST AI Risk Management Framework et l'AI Act européen.

Télécharger le PDF ↓

WEEKLY AI PULSE

Un e-mail par semaine. Cinq minutes.

Un diagnostic, pas une proposition commerciale.

Un échange ciblé sur la place de l'IA dans votre stratégie aujourd'hui, et pour savoir si nous sommes le bon partenaire. Sans présentation commerciale.

Demander un diagnostic