
ISO 42001: et ledelsessystem for AI, og hvordan det passer med ISO 27001
ISO 42001 er den første internationale standard for et ledelsessystem for kunstig intelligens. Den handler ikke om, hvilken AI der må bruges, men om, hvordan organisationen fastlægger, styrer og dokumenterbart følger op på AI-risici. Spørgsmålet bagefter er: er der brug for den, hvad kræver den ud over en AI-politik, og hvor meget af et ISO 27001-system kan genbruges?
ISO/IEC 42001 kræver et ledelsessystem for AI: risici og konsekvenser af AI-systemer skal fastlægges, styres, registreres og løbende efterprøves.
For en organisation, der kun bruger AI, er en god AI-politik ofte nok; standarden betaler sig især for dem, der bygger, leverer eller bruger AI i en kritisk proces.
Med ISO 27001 genbruges struktur, audit og dokumentstyring. Et certifikat er ikke bevis for overholdelse af AI-forordningen, og vi certificerer ingen.
Hvad ISO 42001 er, og hvad den ikke er
ISO/IEC 42001 udkom i slutningen af 2023 og beskriver krav til et ledelsessystem for AI, på engelsk forkortet AIMS. Ligesom ISO 27001 for informationssikkerhed giver den ingen liste over forbudte anvendelser eller godkendte værktøjer. Den kræver, at I ved, hvilken AI I udvikler, leverer eller bruger, hvilke risici og konsekvenser der hører til, hvad I gør ved dem, og at det dokumenterbart følges.
Hvad den ikke er: ikke en teknisk standard for en models kvalitet, ikke et produktmærke og ikke en erstatning for lovgivning. Det er en organisation, der certificeres, ikke en chatbot.
Standarden læner sig op ad to tidligere dokumenter: ISO/IEC 22989 for begreber og roller og ISO/IEC 23894 som vejledning i risikostyring ved AI. Den, der vil forstå begrebsapparatet i 42001, får mest ud af den første.
Bygge, levere eller bruge: hvem standarden giver mening for
Det vigtigste forspørgsmål er, hvilken rolle I har. Standarden gælder enhver organisation, der leverer eller bruger AI, men indsats og udbytte varierer stærkt.
- I udvikler AI eller bygger den ind i jeres produkt. Her er standarden mest på sin plads: kunder vil vide, hvordan data, modeller og ændringer styres, og et certifikat besvarer det i én omgang.
- I leverer en ydelse med AI i. En kunde eller indkøber stiller så de samme spørgsmål. Går de igen i hvert udbud, betaler et system sig.
- I bruger AI i en kritisk proces. Vurdering af mennesker, kreditter, adgang eller sikkerhed. Her vejer konsekvenserne tungt nok til at styre dem systematisk.
- I bruger AI som kontorværktøj. En assistent i mailen, referater af møder. Så er en klar AI-politik som regel nok, og et fuldt ledelsessystem er tungere end risiciene.
Er I i tvivl, så begynd med en oversigt over det, der kører. Den skal bruges under alle omstændigheder, og den viser, hvor I hører til.
Hvad ISO 42001 kræver ud over en AI-politik
En AI-politik siger, hvad der må. Standarden kræver det system, der gør politikken til virkelighed. De dele, der gør forskellen:
- En AI-risikovurdering. Pr. AI-system: hvad kan gå galt for organisationen og for dem, der kommer i berøring med det, og hvor sandsynligt er det.
- En konsekvensvurdering af AI-systemet. Nyt i forhold til ISO 27001: konsekvenserne for personer og grupper uden for organisationen, som et urimeligt resultat eller en beslutning, ingen kan forklare.
- En statement of applicability. Hvilke kontroller fra bilag A der anvendes, hvilke ikke, og hvorfor.
- Livscyklussen. Hvordan et AI-system designes, testes, tages i brug, ændres og udfases, og hvem der beslutter ved hvert trin.
- Data. Oprindelse, kvalitet og egnethed af de data, et system arbejder med eller er trænet på.
- Information til interessenter. Hvad brugere og berørte får at vide om, hvad systemet gør, og hvor det stopper.
- Leverandører. AI, der købes ind, er også med: hvad leverandøren lover, og hvad I selv fortsat skal styre.
Ved siden af ISO 27001: det, der genbruges, og det, der er nyt
ISO 42001 følger samme kapitelinddeling som ISO 27001 og ISO 9001. Med et certificeret ISO 27001-system begynder I altså ikke fra nul. Det, der allerede er krydset af i vores ISO 27001-tjekliste, tæller for en stor del med.
Det, der genbruges:
- Opbygningen: kontekst, ledelse, planlægning, støtte, drift, evaluering, forbedring.
- Intern audit, ledelsesevaluering, dokumentstyring og korrigerende handlinger.
- Sikkerhedsforanstaltninger omkring adgang, logning, leverandører og hændelser; et AI-system er også et informationssystem.
- Risikometoden, hvis den er bred nok til at veje mere end fortrolighed, integritet og tilgængelighed.
Det, der er nyt: konsekvensvurderingen for mennesker, modellernes livscyklus, datas kvalitet og oprindelse, forklarlighed og information til berørte. Det er spørgsmål, ISO 27001 ikke stiller, og de ligger ofte hos andre end sikkerhedsansvarlige: produktstyring, jura, procesejeren. Kombinér de to i ét integreret ledelsessystem med én auditcyklus. To løse systemer betyder den samme ledelsesevaluering to gange.
ISO 42001 og AI-forordningen: hvad et certifikat beviser, og hvad det ikke beviser
Den europæiske AI-forordning (AI Act) er lovgivning; ISO 42001 er en frivillig standard. De berører hinanden, men de er ikke det samme.
- Det, et certifikat viser: at organisationen styrer AI-risici systematisk med et fungerende ledelsessystem, som et uafhængigt organ har vurderet.
- Det, det ikke viser: at et bestemt AI-system opfylder AI-forordningen. I skrivende stund er ISO 42001 ikke en harmoniseret standard under forordningen, så et certifikat giver ingen formodning om overensstemmelse.
- Hvor det hjælper: AI-forordningen kræver af udbydere af højrisiko-AI blandt andet risikostyring, datastyring, dokumentation og menneskeligt tilsyn. Et fungerende AIMS leverer for en stor del det bevis og den arbejdsform, der skal bruges.
Kan et AI-system være omfattet af forordningen, så få juridisk vurderet, hvilken risikokategori det hører til, og hvilke pligter der følger. Det er ikke et spørgsmål, et ledelsessystem besvarer.
Fra AI-oversigt til audit: rækkefølgen
- Oversigt. Hvilke AI-systemer I udvikler, leverer eller bruger, herunder AI bygget ind i eksisterende software, og som medarbejdere selv har slået til.
- Rolle og omfang. Pr. system jeres rolle (udvikler, udbyder, bruger), og hvilke systemer der er med i ledelsessystemet.
- Politik og ansvar. En AI-politik, ledelsen bærer, og en ejer pr. system.
- Risiko- og konsekvensvurdering. Pr. system, med dem, der bruger det, og dem, der mærker konsekvenserne.
- Foranstaltninger og statement of applicability. Hvad der gøres, hvad der bevidst ikke gøres, og hvorfor.
- Arbejde og dokumentere. Nogle måneders drift med registreringer, vurderinger og ændringer, der kan vises.
- Intern audit, ledelsesevaluering, certificeringsaudit. Den sidste i to faser hos et certificeringsorgan. Undersøg, om organet er akkrediteret til netop denne standard, i Danmark af DANAK; det er ikke en selvfølge ved en ny standard.
Det, der styrer indsatsen: hvor mange AI-systemer der er med, om de bygges eller købes, hvad der allerede står i et ISO 27001-system, og hvor meget af AI-brugen der stadig er ukendt.
Hvor det går galt
- Et omfang, der kun dækker eget produkt. AI’en i mail, CRM og mødesoftware er også omfattet af politikken, og en auditor spørger til den.
- Konsekvensvurderingen som formular. Skriver ingen uden for it med, mangler netop de konsekvenser, det handler om.
- Leverandører på deres ord. »Vi træner ikke på jeres data« er en sætning; spørg, hvor det står i kontrakten, og hvordan det kontrolleres.
- Et øjebliksbillede. AI-funktioner kommer til med softwareopdateringer uden at blive spurgt. Uden fast revision er oversigten forældet efter et kvartal.
- At forveksle certifikatet med overholdelse. Den, der skal overholde AI-forordningen, skal dokumentere det særskilt.
Hvor vores arbejde stopper
Det gør vi. Vi leverer den tekniske side: kortlægning af, hvilken AI der kører i miljøet, og hvilke rettigheder den har, opsætning af AI-assistenter som Microsoft 365 Copilot inden for de eksisterende adgangsrettigheder, mærkning og afskærmning af følsomme data, logning og adgangsstyring og det bevis fra vores drift, en auditor beder om ved sikkerhedsforanstaltningerne. Vi arbejder selv under ISO 9001, ISO/IEC 27001 og ISO 14001.
Det gør vi ikke. Vi er ikke et certificeringsorgan og ikke auditor. Vi udsteder ikke ISO 42001-certifikater, siger ikke, om I opfylder standarden, og udfører ikke en uafhængig audit. Vi er heller ikke jurister: om et AI-system er omfattet af AI-forordningen, og hvilke pligter der følger, skal vurderes juridisk. Konsekvensvurderingen for mennesker skrives med jeres egne procesejere; vi leverer de tekniske fakta.
Spørgsmål, vi får om ISO 42001
De fem, der oftest kommer op.
Hvad er ISO 42001?
ISO/IEC 42001 er den internationale standard med krav til et ledelsessystem for kunstig intelligens (AIMS). Den kræver, at en organisation fastlægger, hvilken AI den udvikler, leverer eller bruger, hvilke risici og konsekvenser der hører til, og hvordan de styres og følges. En organisation kan lade sig certificere mod den.
Er ISO 42001 obligatorisk?
Nej, ISO 42001 er en frivillig standard. Kunder og udbud spørger dog i stigende grad til den hos leverandører, der udvikler AI eller bruger den i deres ydelse. De lovbestemte pligter omkring AI kommer fra AI-forordningen og ikke fra standarden.
Hvad er forskellen på ISO 42001 og ISO 27001?
ISO 27001 handler om informationssikkerhed, ISO 42001 om ansvarlig udvikling og brug af AI, herunder konsekvenser for mennesker uden for organisationen, datas kvalitet og modellers livscyklus. De har samme kapitelinddeling, så de kan kombineres i ét ledelsessystem.
Beviser et ISO 42001-certifikat, at vi overholder AI-forordningen?
Nej. Et certifikat viser, at AI-risici styres systematisk, men ikke, at et bestemt AI-system opfylder forordningen. I skrivende stund er ISO 42001 ikke en harmoniseret standard under forordningen. Et fungerende ledelsessystem hjælper dog med det bevis, forordningen kræver.
Kan I ordne vores ISO 42001-certifikat?
Nej. Et certifikat udstedes kun af et akkrediteret certificeringsorgan, og vi er hverken certificeringsorgan eller auditor. Det, vi gør, er at bringe den tekniske side i orden: overblik over, hvilken AI der kører, adgangsrettigheder, mærkning og logning og beviset fra vores drift.
Læs videre
Hvad standarden hænger sammen med.
Skal vi først kortlægge, hvilken AI der kører?
Fortæl, hvilke AI-værktøjer og funktioner I kender, og i hvilke processer de indgår. Vi viser, hvad der teknisk er aktivt i miljøet, og hvilke rettigheder det har; certificeringen overlader vi til jeres certificeringsorgan.
Praktisk IT-viden i din indbakke
Nye guides om drift, sikkerhed og arbejdspladser, skrevet af de folk, der laver arbejdet. Ingen salgssnak, og du afmelder dig med ét klik.