Pedir orçamento
Urgência Setores Carreiras Sobre nós Blog Contactos
Dois colegas a uma mesa com um portátil ao meio, num escritório iluminado com luz quente

ISO 42001: um sistema de gestão para a IA e como se encaixa com a ISO 27001

A ISO 42001 é a primeira norma internacional para um sistema de gestão de inteligência artificial. Não diz que IA se pode usar, mas como uma organização identifica, controla e acompanha de forma demonstrável os riscos da IA. Este artigo trata da pergunta seguinte: precisa dela, o que pede além de uma política de IA, e quanto do sistema ISO 27001 pode reutilizar?

7 min de leitura Escrito pela equipa da ITproposal
Resposta curta

A ISO/IEC 42001 pede um sistema de gestão para a IA: identificar, controlar, registar e continuar a verificar os riscos e impactos dos sistemas de IA.

Para uma organização que apenas usa IA, uma boa política costuma bastar; a norma compensa sobretudo para quem constrói ou fornece IA, ou a usa num processo crítico.

Quem tem ISO 27001 reutiliza estrutura, auditoria e gestão documental. Um certificado não prova o cumprimento do AI Act, e nós não certificamos ninguém.

O que é a ISO 42001 e o que não é

A ISO/IEC 42001 foi publicada no final de 2023 e descreve requisitos para um sistema de gestão de IA, em inglês abreviado como AIMS. Tal como a ISO 27001 para a segurança da informação, não dá uma lista de aplicações proibidas nem de ferramentas aprovadas. Pede que se saiba que IA se desenvolve, fornece ou usa, que riscos e impactos lhe estão associados, o que se faz a esse respeito, e que isso seja mantido de forma demonstrável.

O que não é: uma norma técnica sobre a qualidade de um modelo, um selo para um produto, nem um substituto da legislação. Certifica-se uma organização, não um chatbot.

A norma apoia-se em dois documentos anteriores: a ISO/IEC 22989 para conceitos e funções, e a ISO/IEC 23894 como guia de gestão de riscos da IA. Quem quiser entender o quadro conceptual da 42001 tira mais proveito da primeira.

Construir, fornecer ou usar: para quem faz sentido a norma

A pergunta prévia mais importante é que papel se tem. A norma aplica-se a qualquer organização que forneça ou use IA, mas o esforço e o retorno variam muito.

  • Desenvolve IA ou integra-a no seu produto. É aqui que a norma tem mais razão de ser: os clientes querem saber como gere dados, modelos e alterações, e um certificado responde a isso de uma só vez.
  • Fornece um serviço com IA. Um cliente ou comprador faz as mesmas perguntas. Se voltam em todos os concursos, um sistema compensa.
  • Usa IA num processo crítico. Avaliações de pessoas, crédito, acessos ou segurança. Aí os impactos são suficientemente pesados para os controlar de forma sistemática.
  • Usa IA como ferramenta de escritório. Um assistente no email, resumos de reuniões. Nesse caso, uma clara política de inteligência artificial costuma bastar, e um sistema de gestão completo é mais pesado do que os riscos.

Em caso de dúvida, comece por um inventário do que está a correr. Vai sempre precisar dele, e mostra em que linha se encontra.

O que a ISO 42001 pede além de uma política de IA

Uma política de IA diz o que é permitido. A norma pede o sistema que torna essa política realidade. Os componentes que fazem a diferença:

  • Uma avaliação de riscos da IA. Por sistema de IA: o que pode correr mal, para a organização e para as pessoas afetadas, e com que probabilidade.
  • Uma avaliação de impacto do sistema de IA. Isto é novo face à ISO 27001: as consequências para pessoas e grupos fora da organização, como um resultado injusto ou uma decisão que ninguém sabe explicar.
  • Uma declaração de aplicabilidade. Que controlos do anexo A se aplicam, quais não, e porquê.
  • O ciclo de vida. Como um sistema de IA é concebido, testado, colocado em uso, alterado e retirado, e quem decide em cada passo.
  • Dados. Origem, qualidade e adequação dos dados com que um sistema trabalha ou foi treinado.
  • Informação às partes interessadas. O que utilizadores e pessoas afetadas ficam a saber sobre o que o sistema faz e onde termina.
  • Fornecedores. A IA que se compra também está abrangida: o que o fornecedor promete, o que continua sob o seu próprio controlo.

Ao lado da ISO 27001: o que se reutiliza e o que é novo

A ISO 42001 segue a mesma estrutura de capítulos da ISO 27001 e da ISO 9001. Com um sistema ISO 27001 certificado, não se começa do zero. O que já assinalou na nossa lista de verificação ISO 27001 conta em grande parte.

O que se reutiliza:

  • A estrutura: contexto, liderança, planeamento, suporte, operação, avaliação, melhoria.
  • Auditoria interna, revisão pela gestão, gestão documental e ações corretivas.
  • As medidas de segurança relativas a acessos, registos, fornecedores e incidentes; um sistema de IA é também um sistema de informação.
  • O seu método de risco, se for suficientemente amplo para ponderar mais do que confidencialidade, integridade e disponibilidade.

O que é novo: a avaliação de impacto nas pessoas, o ciclo de vida dos modelos, a qualidade e origem dos dados, a explicabilidade e a informação às pessoas afetadas. São perguntas que a ISO 27001 não faz, e cabem muitas vezes a pessoas diferentes do responsável de segurança: gestão de produto, assuntos jurídicos, o dono do processo.

Combine as duas num sistema de gestão integrado, com um único ciclo de auditoria. Dois sistemas lado a lado significam duas vezes a mesma revisão pela gestão.

ISO 42001 e AI Act: o que um certificado prova e não prova

O Regulamento Europeu da IA (o AI Act) é legislação; a ISO 42001 é uma norma voluntária. Tocam-se, mas não são a mesma coisa.

  • O que um certificado mostra: que a organização gere sistematicamente os riscos da IA, com um sistema de gestão em funcionamento avaliado por um organismo independente.
  • O que não mostra: que um determinado sistema de IA cumpre o AI Act. À data em que escrevemos, a ISO 42001 não é uma norma harmonizada ao abrigo desse regulamento, pelo que um certificado não confere presunção de conformidade.
  • Onde ajuda: o AI Act exige aos fornecedores de IA de risco elevado, entre outras coisas, gestão de riscos, governação de dados, documentação e supervisão humana. Um AIMS em funcionamento fornece grande parte da evidência e do método necessários.

Se um sistema de IA puder estar abrangido pelo AI Act, peça uma análise jurídica sobre a categoria de risco e as obrigações correspondentes. Um sistema de gestão não responde a isso por si.

Do inventário de IA à auditoria: a ordem

  • Inventário. Que sistemas de IA desenvolve, fornece ou usa, incluindo a IA integrada em software existente e a que os colaboradores ativaram por conta própria.
  • Papel e âmbito. Por sistema, o seu papel (programador, fornecedor, utilizador) e que sistemas entram no sistema de gestão.
  • Política e responsabilidades. Uma política de IA assumida pela gestão de topo e, por sistema, um responsável.
  • Avaliação de riscos e de impacto. Por sistema, com as pessoas que o usam e as que sentem as consequências.
  • Medidas e declaração de aplicabilidade. O que se faz, o que deliberadamente não se faz, e porquê.
  • Funcionar e demonstrar. Alguns meses de funcionamento, com registos, avaliações e alterações que possam ser mostrados.
  • Auditoria interna, revisão pela gestão, auditoria de certificação. Esta última em duas fases num organismo de certificação. Confirme se esse organismo está acreditado para esta norma em concreto; numa norma nova, isso não é evidente.

O que determina o esforço: quantos sistemas de IA estão no âmbito, se são construídos ou comprados, o que já existe num sistema ISO 27001 e que parte do uso de IA ainda é desconhecida.

Onde corre mal

  • Um âmbito que cobre apenas o produto próprio. A IA no email, no CRM e no software de reuniões também está abrangida pela política, e um auditor pergunta por ela. Veja também o nosso texto sobre shadow AI.
  • A avaliação de impacto como formulário. Se ninguém de fora das TI contribuir, faltam exatamente as consequências que importam.
  • Acreditar nos fornecedores pela palavra. «Não treinamos com os seus dados» é uma frase; pergunte onde está no contrato e como se verifica.
  • Uma fotografia de um momento. As funcionalidades de IA chegam sem pedido com as atualizações de software. Sem uma revisão fixa, o inventário fica desatualizado num trimestre.
  • Confundir o certificado com conformidade. Quem tem de cumprir o AI Act tem de o demonstrar à parte.

Onde termina o nosso trabalho

O que fazemos. Fornecemos o lado técnico: mapear que IA corre no ambiente e que direitos tem, configurar assistentes de IA como o Microsoft 365 Copilot dentro dos direitos de acesso existentes, etiquetar e proteger dados sensíveis, pôr em ordem os registos e a gestão de acessos, e fornecer as evidências da nossa gestão que um auditor pede sobre as medidas de segurança. Trabalhamos nós próprios segundo a ISO 9001, a ISO/IEC 27001, a ISO 14001 e a Kiwa NEN 4400-1.

O que não fazemos. Não somos organismo de certificação nem auditores. Não emitimos certificados ISO 42001, não dizemos se cumpre a norma e não fazemos auditorias independentes. Também não somos juristas: se um sistema de IA está abrangido pelo AI Act e que obrigações tem deve ser objeto de análise jurídica. A avaliação de impacto nas pessoas é escrita com os seus próprios donos de processo; fornecemos os factos técnicos para isso.

Perguntas frequentes

Perguntas que recebemos sobre este tema

As mais frequentes quando a ISO 42001 está em cima da mesa.

O que é a ISO 42001?

A ISO/IEC 42001 é a norma internacional com requisitos para um sistema de gestão de inteligência artificial (AIMS). Pede que uma organização defina que IA desenvolve, fornece ou usa, que riscos e impactos lhe estão associados, e como os controla e acompanha. Uma organização pode certificar-se segundo esta norma.

A ISO 42001 é obrigatória?

Não, a ISO 42001 é uma norma voluntária. Mas clientes e concursos pedem-na cada vez mais a fornecedores que desenvolvem IA ou a usam no seu serviço. As obrigações legais relativas à IA vêm do AI Act, não da norma.

Qual é a diferença entre a ISO 42001 e a ISO 27001?

A ISO 27001 trata da segurança da informação, a ISO 42001 do desenvolvimento e uso responsáveis da IA, incluindo as consequências para pessoas fora da organização, a qualidade dos dados e o ciclo de vida dos modelos. Têm a mesma estrutura de capítulos, pelo que podem ser combinadas num único sistema de gestão.

Um certificado ISO 42001 prova que cumprimos o AI Act?

Não. Um certificado mostra que os riscos da IA são geridos de forma sistemática, mas não diz que um determinado sistema de IA cumpre o AI Act. À data em que escrevemos, a ISO 42001 não é uma norma harmonizada ao abrigo desse regulamento. Um sistema de gestão em funcionamento ajuda, porém, a reunir a evidência que o AI Act pede.

Podem tratar do nosso certificado ISO 42001?

Não. Um certificado só pode ser emitido por um organismo de certificação acreditado, e nós não somos organismo de certificação nem auditores. O que fazemos é pôr em ordem o lado técnico: visibilidade sobre que IA corre, direitos de acesso, etiquetas e registos, e a respetiva evidência da nossa gestão.

Serviços relacionados

Para ler a seguir

A política, a segurança por baixo e a própria IA.

Começamos por mapear que IA está a correr?

Diga-nos que ferramentas e funcionalidades de IA conhece e em que processos estão. Mostramos o que está tecnicamente ativo no seu ambiente e que direitos tem; a certificação fica para o seu organismo de certificação.

Conhecimento prático de TI na sua caixa de correio

Novos guias sobre gestão, segurança e postos de trabalho, escritos por quem faz o trabalho. Sem conversa comercial, e pode cancelar a subscrição com um clique.

Usamos o seu endereço apenas para a newsletter. Consulte a nossa política de privacidade.

Orçamento Ligar