Le cadre de gestion des risques liés à l'IA du NIST : guide pratique pour les entreprises canadiennes

Le cadre de gestion des risques liés à l'IA du NIST est une structure volontaire d'identification et de gestion du risque des systèmes d'IA, organisée autour de quatre fonctions : Gouverner, Cartographier, Mesurer et Gérer. Il n'y a ni certification, ni auditeur, ni obligation légale qui s'y rattache où que ce soit au Canada. Il compte malgré tout, pour une raison : il est devenu le vocabulaire commun qu'emploient les grands acheteurs et leurs équipes de sécurité quand ils demandent comment vous gérez le risque lié à l'IA.

Si un questionnaire client vous demande si vous avez « cartographié le contexte de vos systèmes d'IA », cette formulation vient de là.

Que demandent les quatre fonctions ?

Gouverner est la couche qui rend les trois autres réelles. Elle demande qui est responsable, quelles politiques existent, comment les décisions de risque se prennent et comment tout cela est revu. C'est la fonction que les organisations sautent, parce qu'elle ne produit aucun artefact visible pour un système donné. C'est aussi celle qui détermine si le reste survit à un départ.

Cartographier demande d'établir le contexte avant toute évaluation. À quoi sert le système, qui touche-t-il, sur quelles hypothèses repose-t-il, quelles sont ses limites connues, et que se passe-t-il en aval de son résultat. C'est là que se fait l'essentiel de la réflexion utile, et c'est impossible sans un inventaire des systèmes d'IA.

Mesurer demande comment vous saurez si le système se comporte correctement. Exactitude sur quelles données, testée à quelle fréquence, avec quels seuils, et quelle surveillance existe une fois en service. Cette fonction met vite au jour des vérités inconfortables, car la plupart des systèmes d'IA déployés dans les petites entreprises ne sont pas mesurés du tout après la mise en service.

Gérer demande ce que vous faites de ce que vous avez trouvé. Prioriser, traiter, accepter avec justification, ou retirer. Cette fonction couvre aussi la réponse aux défaillances propres à l'IA, qui ne ressemblent pas aux incidents de sécurité.

En quoi cela diffère-t-il d'ISO 42001 ?

Les deux répondent à des questions différentes, et les mener ensemble représente moins de travail qu'il n'y paraît.

La relation pratique : le NIST fournit l'analyse, ISO fournit la preuve que cette analyse se fait de façon constante. Les équipes qui adoptent d'abord le cadre du NIST trouvent ensuite ISO 42001 plus facile, car Cartographier et Mesurer produisent l'essentiel de ce qu'exige une évaluation d'incidence.

Est-ce pertinent si vous ne vendez jamais aux États-Unis ?

Davantage qu'on ne le croirait, pour trois raisons.

L'approvisionnement des grandes organisations converge vers lui. Les banques, assureurs et réseaux de santé canadiens qui achètent des logiciels empruntent de plus en plus leurs questions sur l'IA aux questionnaires fournisseurs américains, parce que les modèles viennent de là. Répondre dans la langue du cadre raccourcit ces échanges.

C'est aussi la réflexion gratuite la plus complète disponible sur le sujet. Quoi qu'on pense de son origine, les documents de profil constituent l'écrit public le plus clair sur la façon de raisonner sur les modes de défaillance de l'IA, et il n'existe aucun équivalent canadien d'une profondeur comparable.

Enfin, il se rattache proprement à des obligations que vous avez déjà. Cartographier le contexte, c'est le même travail que délimiter une évaluation des facteurs relatifs à la vie privée. Mesurer, c'est ce qui permet d'affirmer une supervision humaine véritable. Gérer, c'est ce dont votre processus d'incident a besoin de toute façon.

À quoi ressemble l'adoption pour une entreprise de 40 personnes ?

À bien moins que ne le laisse croire la longueur du document. Un premier passage réaliste :

1. Gouverner. Nommez un responsable du risque lié à l'IA, rédigez une politique d'une page et inscrivez le risque IA à l'ordre du jour d'une réunion de direction existante, une fois par trimestre. À cette taille, c'est toute la fonction.
2. Cartographier. Reprenez votre inventaire et ajoutez quatre champs par système : finalité, personnes touchées, limites connues, et conséquence d'un résultat erroné. Un après-midi par tranche de dix systèmes.
3. Mesurer. Pour chaque système influençant une décision au sujet d'une personne, définissez un signal de qualité et un signal de défaillance, et décidez qui les regarde et à quelle fréquence. Les systèmes qui ne font que rédiger du texte peuvent être mesurés de façon informelle.
4. Gérer. Acheminez tout élément important vers le journal des incidents que vous utilisez déjà, avec une catégorie IA, et consignez les acceptations avec leur justification.

C'est quelques semaines de travail à temps partiel, pas un programme. Le mode d'échec consiste à en faire un exercice documentaire et à produire une belle cartographie de systèmes que personne ne mesure ensuite.

Où les équipes se trompent

Deux erreurs reviennent. La première est de commencer par Mesurer parce que cela paraît concret, puis de découvrir qu'il n'existe aucun accord sur ce que le système est censé faire. Cartographier vient en premier pour une raison.

La seconde est de ne cartographier que les systèmes d'IA que vous avez construits. La plupart des entreprises canadiennes ne construisent pas de modèles ; elles achètent des outils qui en contiennent. Ceux-là sont dans le périmètre, et les questions de cartographie y sont plus difficiles, car les réponses appartiennent à un fournisseur. Posez-lui directement les questions de cartographie et consignez ce à quoi il refuse de répondre, car un refus est en soi un constat de risque digne d'être écrit.

Pour situer tout cela dans le tableau réglementaire plus large, la LIAD, cette loi sur l'IA que les entreprises canadiennes ignorent traite de ce qui s'en vient réellement au pays.

Ceci est de l'information générale et non un avis juridique.

Valdra structure le travail sur le risque lié à l'IA selon les mêmes lignes, de sorte que la cartographie faite pour un questionnaire d'acheteur alimente aussi vos évaluations et vos rapports de gouvernance de l'IA.