Solicitar presupuesto
Urgencias SectoresCarreras Nosotros Blog Contactar
Dos compañeros en una mesa con un portátil entre ellos en una oficina de luz cálida

ISO 42001: un sistema de gestión para la IA, y cómo encaja con la ISO 27001

La ISO 42001 es la primera norma internacional para un sistema de gestión de la inteligencia artificial. No trata de qué IA puede usar, sino de cómo una organización identifica, controla y documenta de forma demostrable los riesgos de la IA. Este artículo responde a lo que viene después: si la necesita, qué exige además de una política de IA y cuánto de su sistema ISO 27001 puede reutilizar.

8 min de lectura Escrito por el equipo de ITproposal
Respuesta corta

La ISO/IEC 42001 exige un sistema de gestión para la IA: identificar, controlar, documentar y revisar los riesgos e impactos de los sistemas de IA.

Para una organización que solo usa IA suele bastar una buena política de IA; la norma compensa sobre todo a quien desarrolla, suministra o usa IA en un proceso crítico.

Quien tiene ISO 27001 reutiliza estructura, auditoría y control documental. Un certificado no prueba el cumplimiento del Reglamento de IA, y nosotros no certificamos.

Qué es la ISO 42001 y qué no es

La ISO/IEC 42001 se publicó a finales de 2023 y establece los requisitos de un sistema de gestión de la inteligencia artificial (SGIA, o AIMS en inglés). Como la ISO 27001 para la seguridad de la información, no ofrece una lista de usos prohibidos ni de herramientas aprobadas. Exige que sepa qué IA desarrolla, suministra o utiliza, qué riesgos e impactos conlleva, qué hace al respecto, y que lo mantenga al día de forma demostrable.

Lo que no es: una norma técnica sobre la calidad de un modelo, un sello de producto ni un sustituto de la legislación. Se certifica una organización, no un chatbot.

La norma se apoya en dos documentos anteriores: ISO/IEC 22989 para conceptos y funciones, e ISO/IEC 23894 como guía de gestión de riesgos de la IA. Para entender el vocabulario de la 42001, la primera es la más útil.

Desarrollar, suministrar o usar: para quién tiene sentido

La pregunta clave es qué papel tiene usted. La norma se aplica a cualquier organización que proporciona o utiliza IA, pero el esfuerzo y el beneficio varían mucho.

  • Desarrolla IA o la integra en su producto. Aquí es donde mejor encaja: los clientes quieren saber cómo gestiona datos, modelos y cambios, y un certificado lo responde de una vez.
  • Presta un servicio que lleva IA dentro. Clientes y compradores le harán las mismas preguntas. Si vuelven en cada licitación, un sistema compensa.
  • Usa IA en un proceso crítico. Evaluación de personas, créditos, accesos o seguridad. Ahí los impactos pesan lo suficiente para gestionarlos de forma sistemática.
  • Usa IA como herramienta de oficina. Un asistente en el correo, resúmenes de reuniones. Entonces suele bastar una política de uso de IA y la alfabetización en IA, y un sistema de gestión completo pesa más que los riesgos.

Si duda, empiece por un inventario de lo que está en marcha. Lo necesitará de todos modos, y le muestra en qué fila está.

Qué exige la ISO 42001 además de una política de IA

Una política de IA dice qué está permitido. La norma pide el sistema que hace realidad esa política. Las piezas que marcan la diferencia:

  • Una evaluación de riesgos de la IA. Por sistema: qué puede fallar, para la organización y para las personas afectadas, y con qué probabilidad.
  • Una evaluación de impacto del sistema de IA. Es lo nuevo respecto a la ISO 27001: las consecuencias para personas y colectivos fuera de su organización, como un resultado injusto o una decisión que nadie sabe explicar.
  • Una declaración de aplicabilidad. Qué controles del anexo A aplica, cuáles no y por qué.
  • El ciclo de vida. Cómo se diseña, prueba, despliega, modifica y retira un sistema de IA, y quién decide en cada paso.
  • Los datos. Origen, calidad e idoneidad de los datos con los que trabaja o se entrenó un sistema.
  • Información para las partes interesadas. Qué se cuenta a usuarios y afectados sobre lo que hace el sistema y dónde termina.
  • Proveedores. La IA que compra también entra: qué se compromete a hacer el proveedor y qué sigue controlando usted.

Junto a la ISO 27001: qué se reutiliza y qué es nuevo

La ISO 42001 sigue la misma estructura de capítulos que la ISO 27001 y la ISO 9001. Con un sistema ISO 27001 certificado no parte de cero; buena parte de lo que ya marcó en nuestra lista de verificación ISO 27001 sigue valiendo.

Lo que se reutiliza:

  • La estructura: contexto, liderazgo, planificación, apoyo, operación, evaluación, mejora.
  • Auditoría interna, revisión por la dirección, control documental y acciones correctivas.
  • Los controles de seguridad sobre accesos, registros, proveedores e incidentes; un sistema de IA también es un sistema de información.
  • Su método de riesgos, siempre que sea lo bastante amplio para valorar algo más que confidencialidad, integridad y disponibilidad.

Lo nuevo: la evaluación de impacto sobre las personas, el ciclo de vida de los modelos, la calidad y el origen de los datos, la explicabilidad y la información a los afectados. La ISO 27001 no plantea esas preguntas, y suelen corresponder a personas distintas del responsable de seguridad: producto, asesoría jurídica, el responsable del proceso.

Combine ambas en un único sistema de gestión integrado, con un solo ciclo de auditoría. Dos sistemas separados significan hacer dos veces la misma revisión por la dirección.

La ISO 42001 y el Reglamento de IA: qué prueba un certificado y qué no

El Reglamento europeo de Inteligencia Artificial es legislación; la ISO 42001 es una norma voluntaria. Se tocan, pero no son lo mismo. En España, su supervisión corresponde a la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA).

  • Lo que muestra un certificado: que su organización gestiona los riesgos de la IA de forma sistemática, con un sistema de gestión en funcionamiento evaluado por un organismo independiente.
  • Lo que no muestra: que un sistema de IA concreto cumpla el Reglamento. En el momento de escribir esto, la ISO 42001 no es una norma armonizada de ese reglamento, así que un certificado no otorga presunción de conformidad.
  • Dónde sí ayuda: el Reglamento exige a los proveedores de IA de alto riesgo, entre otras cosas, gestión de riesgos, gobernanza de datos, documentación y supervisión humana. Un SGIA en marcha aporta buena parte de las evidencias y de la forma de trabajar que eso requiere.

Si un sistema de IA puede estar sujeto al Reglamento, pida una valoración jurídica de su categoría de riesgo y de las obligaciones que conlleva. Un sistema de gestión no responde a esa pregunta por usted.

Del inventario de IA a la auditoría: el orden

  • Inventario. Qué sistemas de IA desarrolla, suministra o usa, incluida la IA integrada en software existente y la que los empleados han activado por su cuenta.
  • Papel y alcance. Por sistema, su papel (desarrollador, proveedor, usuario) y qué sistemas entran en el sistema de gestión.
  • Política y responsabilidades. Una política de IA que respalde la dirección y un responsable por sistema.
  • Evaluación de riesgos e impacto. Por sistema, con quienes lo usan y quienes notan sus efectos.
  • Controles y declaración de aplicabilidad. Qué hace, qué decide no hacer y por qué.
  • Operar y evidenciar. Unos meses de funcionamiento, con registros, evaluaciones y cambios que pueda mostrar.
  • Auditoría interna, revisión por la dirección, auditoría de certificación. Esta última en dos fases con un organismo de certificación. Compruebe que esté acreditado para esta norma en concreto, en España por ENAC; con una norma nueva no es algo que se dé por hecho.

Lo que determina el esfuerzo: cuántos sistemas de IA entran en el alcance, si los desarrolla o los compra, qué hay ya en un sistema ISO 27001 y qué parte de su uso de la IA sigue sin conocerse.

Dónde falla

  • Un alcance que solo cubre el producto propio. La IA de su correo, su CRM y su software de reuniones también entra en su política, y un auditor preguntará por ella.
  • La evaluación de impacto como formulario. Si nadie fuera de IT participa en redactarla, faltan justo las consecuencias que importan.
  • Creer a los proveedores sin más. «No entrenamos con sus datos» es una frase; pregunte dónde figura en el contrato y cómo lo comprueba.
  • Una foto fija. Las funciones de IA llegan sin pedirlas con las actualizaciones. Sin una revisión periódica, el inventario queda desfasado en un trimestre.
  • Confundir el certificado con el cumplimiento. Quien deba cumplir el Reglamento de IA tiene que demostrarlo aparte.

Dónde termina nuestro trabajo

Lo que hacemos. Nos ocupamos de la parte técnica: identificar qué IA funciona en su entorno y qué accesos tiene, configurar asistentes como Microsoft 365 Copilot dentro de los permisos existentes, etiquetar y proteger los datos sensibles, poner en orden los registros y la gestión de accesos, y aportar las evidencias de nuestra gestión que un auditor pide sobre los controles de seguridad. Nosotros mismos trabajamos bajo ISO 9001, ISO/IEC 27001, ISO 14001 y Kiwa NEN 4400-1.

Lo que no hacemos. No somos un organismo de certificación ni un auditor. No emitimos certificados ISO 42001, no le decimos si cumple la norma y no realizamos auditorías independientes. Tampoco somos abogados: si un sistema de IA está sujeto al Reglamento y qué obligaciones tiene es objeto de una valoración jurídica. La evaluación de impacto sobre las personas la redacta con sus responsables de proceso; nosotros aportamos los datos técnicos.

Preguntas frecuentes

Preguntas que nos hacen sobre esto

Las que más se repiten cuando la ISO 42001 está sobre la mesa.

¿Qué es la ISO 42001?

La ISO/IEC 42001 es la norma internacional que establece los requisitos de un sistema de gestión de la inteligencia artificial. Exige que una organización determine qué IA desarrolla, suministra o utiliza, qué riesgos e impactos conlleva y cómo los controla y mantiene al día. Una organización puede certificarse con ella.

¿Es obligatoria la ISO 42001?

No, la ISO 42001 es una norma voluntaria. Clientes y licitaciones la piden cada vez más a los proveedores que desarrollan IA o la usan en su servicio. Las obligaciones legales sobre IA vienen del Reglamento europeo de IA, no de la norma.

¿Qué diferencia hay entre la ISO 42001 y la ISO 27001?

La ISO 27001 trata de la seguridad de la información; la ISO 42001, del desarrollo y uso responsable de la IA, incluido el impacto sobre personas fuera de su organización, la calidad de los datos y el ciclo de vida de los modelos. Comparten la estructura de capítulos, así que pueden combinarse en un único sistema de gestión.

¿Demuestra un certificado ISO 42001 que cumplimos el Reglamento de IA?

No. Un certificado muestra que gestiona los riesgos de la IA de forma sistemática, pero no dice que un sistema de IA concreto cumpla el Reglamento. En el momento de escribir esto, la ISO 42001 no es una norma armonizada de ese reglamento. Un sistema de gestión en marcha sí ayuda con las evidencias que el Reglamento pide.

¿Pueden ustedes conseguirnos la certificación ISO 42001?

No. Solo un organismo de certificación acreditado emite el certificado, y nosotros no somos organismo de certificación ni auditor. Lo que sí hacemos es poner en orden la parte técnica: visibilidad de qué IA funciona, permisos de acceso, etiquetas y registros, y sus evidencias desde nuestra gestión.

Servicios relacionados

Seguir leyendo

La política, la seguridad que la sostiene y la propia IA.

¿Empezamos por identificar qué IA está en marcha?

Cuéntenos qué herramientas y funciones de IA conoce y en qué procesos están. Le mostraremos qué está técnicamente activo en su entorno y qué accesos tiene; la certificación la dejamos en manos de su organismo de certificación.

Conocimiento práctico de IT en su bandeja

Nuevas guías sobre gestión, seguridad y el puesto de trabajo, escritas por quienes hacen el trabajo. Sin discursos comerciales, y puede darse de baja con un clic.

Solo usamos su dirección para el boletín. Consulte nuestra política de privacidad.

Pedir presupuesto Llamar