Demander un devis
Urgence SecteursCarrières À propos Blog Nous contacter
Deux collègues à une table avec un ordinateur portable entre eux dans un bureau à la lumière chaude

ISO 42001 : un système de management pour l’IA, et sa place à côté de l’ISO 27001

L’ISO 42001 est la première norme internationale de système de management de l’intelligence artificielle. Elle ne dit pas quelle IA vous pouvez utiliser, mais comment une organisation identifie, maîtrise et suit de façon démontrable les risques liés à l’IA. Cet article traite des questions qui suivent : en avez-vous besoin, qu’exige-t-elle de plus qu’une charte IA, et quelle part de votre système ISO 27001 pouvez-vous reprendre ?

8 min de lecture Écrit par l’équipe ITproposal
Réponse courte

L’ISO/IEC 42001 exige un système de management de l’IA : identifier, maîtriser, documenter et réexaminer les risques et impacts des systèmes d’IA.

Pour une organisation qui se contente d’utiliser l’IA, une bonne charte suffit souvent ; la norme se justifie surtout pour qui développe, fournit ou emploie l’IA dans un processus critique.

Avec l’ISO 27001, vous reprenez structure, audit et maîtrise documentaire. Un certificat ne prouve pas la conformité à l’AI Act, et nous ne certifions personne.

Ce qu’est l’ISO 42001, et ce qu’elle n’est pas

L’ISO/IEC 42001, publiée fin 2023, fixe les exigences d’un système de management de l’intelligence artificielle (AIMS en anglais). Comme l’ISO 27001 pour la sécurité de l’information, elle ne donne ni liste d’usages interdits ni outils agréés. Elle exige que vous sachiez quelle IA vous développez, fournissez ou utilisez, quels risques et impacts en découlent, ce que vous faites pour y répondre, et que vous teniez tout cela à jour de façon démontrable.

Ce qu’elle n’est pas : une norme technique sur la qualité d’un modèle, un label produit ou un substitut à la loi. On certifie une organisation, pas un chatbot.

La norme s’appuie sur deux documents antérieurs : l’ISO/IEC 22989 pour les concepts et les rôles, et l’ISO/IEC 23894 comme guide de management des risques de l’IA. Pour comprendre le vocabulaire de la 42001, la première est la plus utile.

Développer, fournir ou utiliser : pour qui la norme a du sens

La question préalable est votre rôle. La norme s’applique à toute organisation qui fournit ou utilise l’IA, mais l’effort et le bénéfice varient beaucoup.

  • Vous développez de l’IA ou l’intégrez à votre produit. C’est là qu’elle a le plus sa place : vos clients veulent savoir comment vous gérez données, modèles et évolutions, et un certificat y répond d’un coup.
  • Vous fournissez un service qui embarque de l’IA. Clients et acheteurs posent alors les mêmes questions. Si elles reviennent à chaque appel d’offres, un système se justifie.
  • Vous utilisez l’IA dans un processus critique. Évaluation de personnes, crédit, accès ou sécurité. Les impacts pèsent alors assez lourd pour être gérés de façon systématique.
  • Vous utilisez l’IA comme outil de bureau. Un assistant dans la messagerie, des comptes rendus de réunion. Une charte IA et la formation à l’IA suffisent alors en général, et un système complet pèse plus lourd que les risques.

En cas de doute, commencez par un inventaire de ce qui tourne. Il vous le faut de toute façon, et il montre dans quelle ligne vous êtes.

Ce qu’exige l’ISO 42001 en plus d’une charte IA

Une charte IA dit ce qui est permis. La norme demande le système qui rend cette charte effective. Les éléments qui font la différence :

  • Une appréciation des risques liés à l’IA. Pour chaque système : ce qui peut mal tourner, pour l’organisation et pour les personnes concernées, et avec quelle probabilité.
  • Une évaluation de l’impact du système d’IA. C’est la nouveauté par rapport à l’ISO 27001 : les conséquences pour des personnes et des groupes extérieurs à votre organisation, comme un résultat inéquitable ou une décision que personne ne sait expliquer.
  • Une déclaration d’applicabilité. Quelles mesures de l’annexe A vous appliquez, lesquelles non, et pourquoi.
  • Le cycle de vie. Comment un système d’IA est conçu, testé, déployé, modifié et retiré, et qui décide à chaque étape.
  • Les données. Provenance, qualité et pertinence des données avec lesquelles un système travaille ou a été entraîné.
  • L’information des parties intéressées. Ce que les utilisateurs et les personnes concernées apprennent de ce que fait le système et de ses limites.
  • Les fournisseurs. L’IA achetée est couverte aussi : ce que le fournisseur s’engage à faire, et ce que vous continuez de maîtriser vous-même.

À côté de l’ISO 27001 : ce qu’on reprend et ce qui est nouveau

L’ISO 42001 suit la même structure que l’ISO 27001 et l’ISO 9001. Avec un système ISO 27001 certifié, vous ne partez pas de zéro ; une bonne partie de ce que vous avez coché dans notre checklist ISO 27001 reste valable.

Ce que vous reprenez :

  • La structure : contexte, leadership, planification, support, réalisation, évaluation, amélioration.
  • Audit interne, revue de direction, maîtrise documentaire et actions correctives.
  • Les mesures de sécurité sur les accès, la journalisation, les fournisseurs et les incidents ; un système d’IA est aussi un système d’information.
  • Votre méthode d’analyse de risques, à condition qu’elle pèse plus que la confidentialité, l’intégrité et la disponibilité.

Ce qui est nouveau : l’évaluation de l’impact sur les personnes, le cycle de vie des modèles, la qualité et la provenance des données, l’explicabilité et l’information des personnes concernées. L’ISO 27001 ne pose pas ces questions, et elles relèvent souvent d’autres personnes que le RSSI : le produit, le juridique, le responsable du processus.

Réunissez les deux dans un système de management intégré, avec un seul cycle d’audit. Deux systèmes séparés, c’est deux fois la même revue de direction.

L’ISO 42001 et l’AI Act : ce qu’un certificat prouve, et ce qu’il ne prouve pas

Le règlement européen sur l’intelligence artificielle (l’AI Act) est une loi ; l’ISO 42001 est une norme volontaire. Ils se rejoignent, mais ne se confondent pas.

  • Ce que montre un certificat : que votre organisation gère les risques liés à l’IA de façon systématique, avec un système de management en fonctionnement évalué par un organisme indépendant.
  • Ce qu’il ne montre pas : qu’un système d’IA donné est conforme à l’AI Act. À l’heure où nous écrivons, l’ISO 42001 n’est pas une norme harmonisée au titre de ce règlement, donc un certificat ne confère pas de présomption de conformité.
  • Là où il aide vraiment : l’AI Act impose aux fournisseurs d’IA à haut risque, entre autres, gestion des risques, gouvernance des données, documentation et contrôle humain. Un système de management en place fournit une bonne partie des preuves et des pratiques nécessaires.

Si un système d’IA peut relever de l’AI Act, faites évaluer juridiquement sa catégorie de risque et les obligations qui s’y attachent. Un système de management ne répond pas à cette question à votre place.

De l’inventaire de l’IA à l’audit : les étapes

  • Inventaire. Quels systèmes d’IA vous développez, fournissez ou utilisez, y compris l’IA intégrée aux logiciels existants et celle que les salariés ont activée eux-mêmes.
  • Rôle et périmètre. Pour chaque système, votre rôle (développeur, fournisseur, utilisateur) et ceux qui entrent dans le système de management.
  • Politique et responsabilités. Une politique IA portée par la direction, et un responsable par système.
  • Appréciation des risques et de l’impact. Par système, avec ceux qui l’utilisent et ceux qui en subissent les effets.
  • Mesures et déclaration d’applicabilité. Ce que vous faites, ce que vous choisissez de ne pas faire, et pourquoi.
  • Fonctionner et prouver. Quelques mois de fonctionnement, avec enregistrements, évaluations et modifications que vous pouvez montrer.
  • Audit interne, revue de direction, audit de certification. Ce dernier en deux étapes avec un organisme certificateur. Vérifiez qu’il est accrédité pour cette norme précise, en France par le COFRAC et en Belgique par BELAC ; pour une norme récente, cela ne va pas de soi.

Ce qui détermine l’effort : le nombre de systèmes d’IA dans le périmètre, le fait de les développer ou de les acheter, ce qui existe déjà dans un système ISO 27001, et la part de votre usage de l’IA qui reste inconnue.

Là où ça déraille

  • Un périmètre limité à votre propre produit. L’IA de votre messagerie, de votre CRM et de vos outils de réunion relève aussi de votre politique, et l’auditeur posera la question.
  • L’évaluation d’impact comme formulaire. Si personne hors de l’informatique ne participe à sa rédaction, ce sont précisément les conséquences qui comptent qui manquent.
  • Croire les fournisseurs sur parole. « Nous n’entraînons pas nos modèles sur vos données » est une phrase ; demandez où cela figure au contrat et comment vous le vérifiez.
  • Une photographie à un instant donné. Les fonctions d’IA arrivent sans qu’on les demande avec les mises à jour. Sans révision régulière, l’inventaire est périmé en un trimestre.
  • Confondre certificat et conformité. Qui doit respecter l’AI Act doit le démontrer à part.

Là où notre travail s’arrête

Ce que nous faisons. Nous assurons le volet technique : recenser l’IA qui tourne dans votre environnement et les accès dont elle dispose, configurer des assistants comme Microsoft 365 Copilot dans le cadre des droits existants, étiqueter et protéger les données sensibles, mettre en ordre la journalisation et la gestion des accès, et fournir les preuves issues de notre gestion qu’un auditeur demande sur les mesures de sécurité. Nous travaillons nous-mêmes sous ISO 9001, ISO/IEC 27001, ISO 14001 et Kiwa NEN 4400-1.

Ce que nous ne faisons pas. Nous ne sommes ni un organisme certificateur ni un auditeur. Nous ne délivrons pas de certificat ISO 42001, nous ne vous disons pas si vous êtes conforme et nous ne réalisons pas d’audit indépendant. Nous ne sommes pas non plus juristes : savoir si un système d’IA relève de l’AI Act et quelles obligations s’appliquent relève d’une analyse juridique. L’évaluation de l’impact sur les personnes se rédige avec vos responsables de processus ; nous fournissons les éléments techniques.

Questions fréquentes

Les questions qu’on nous pose

Celles qui reviennent le plus quand l’ISO 42001 est sur la table.

Qu’est-ce que la norme ISO 42001 ?

L’ISO/IEC 42001 est la norme internationale qui fixe les exigences d’un système de management de l’intelligence artificielle. Elle demande à une organisation d’identifier l’IA qu’elle développe, fournit ou utilise, les risques et impacts qui en découlent, et la façon dont elle les maîtrise et les tient à jour. Une organisation peut se faire certifier selon cette norme.

La norme ISO 42001 est-elle obligatoire ?

Non, l’ISO 42001 est une norme volontaire. Clients et appels d’offres la demandent toutefois de plus en plus aux fournisseurs qui développent de l’IA ou l’utilisent dans leur service. Les obligations légales en matière d’IA viennent de l’AI Act, pas de la norme.

Quelle différence entre l’ISO 42001 et l’ISO 27001 ?

L’ISO 27001 porte sur la sécurité de l’information ; l’ISO 42001 sur le développement et l’usage responsables de l’IA, y compris l’impact sur des personnes extérieures, la qualité des données et le cycle de vie des modèles. Elles partagent la même structure, ce qui permet de les réunir dans un seul système de management.

Un certificat ISO 42001 prouve-t-il la conformité à l’AI Act ?

Non. Un certificat montre que vous gérez les risques liés à l’IA de façon systématique, mais pas qu’un système d’IA donné est conforme à l’AI Act. À l’heure où nous écrivons, l’ISO 42001 n’est pas une norme harmonisée au titre de ce règlement. Un système de management en place aide en revanche à réunir les preuves exigées.

Pouvez-vous nous obtenir la certification ISO 42001 ?

Non. Seul un organisme certificateur accrédité délivre le certificat, et nous ne sommes ni organisme certificateur ni auditeur. Ce que nous faisons, c’est mettre en ordre le volet technique : visibilité sur l’IA qui tourne, droits d’accès, étiquettes et journalisation, et les preuves correspondantes issues de notre gestion.

Services liés

Pour aller plus loin

La charte, la sécurité qui la porte et l’IA elle-même.

Commençons par recenser l’IA qui tourne

Dites-nous quels outils et fonctions d’IA vous connaissez et dans quels processus ils interviennent. Nous vous montrons ce qui est techniquement actif dans votre environnement et à quoi il a accès ; la certification, nous la laissons à votre organisme certificateur.

Des connaissances informatiques concrètes dans votre boîte mail

De nouveaux guides sur la gestion, la sécurité et le poste de travail, écrits par ceux qui font le travail. Sans discours commercial, et la désinscription se fait en un clic.

Nous utilisons votre adresse uniquement pour l’infolettre. Consultez notre politique de confidentialité.

Demander un devis Appeler