Vyžádat nabídku
Porucha IT Odvětví Kariéra O nás Blog Kontakt
Dva kolegové u stolu s notebookem uprostřed v kanceláři s teplým světlem

ISO 42001: systém řízení pro AI a jak zapadá vedle ISO 27001

Umělá inteligence se do firem dostala rychleji než pravidla pro ni. Zaměstnanci používají chatboty, dodavatelé přidávají AI funkce do softwaru, který už máte, a někteří zákazníci se začínají ptát, jak to řídíte. ISO/IEC 42001 je první mezinárodní norma pro systém řízení AI. Tento článek vysvětluje, pro koho má smysl, co vyžaduje a jak se dá postavit na tom, co už máte z ISO 27001.

7 min čtení Napsal tým ITproposal
Stručná odpověď

ISO 42001 je norma pro systém řízení AI (AIMS): jak organizace odpovědně vyvíjí, dodává nebo používá umělou inteligenci.

Kdo už má ISO 27001, znovu využije strukturu, audity a velkou část procesů. Nové je posouzení dopadů AI a řízení životního cyklu AI systémů.

Certifikát není splnění AI Actu. Pomůže ho doložit, ale povinnosti z nařízení platí bez ohledu na normu.

Co je ISO 42001 a co není

ISO/IEC 42001 je mezinárodní norma pro systém řízení umělé inteligence (AI management system, AIMS). Stejně jako ISO 27001 neříká, jakou technologii použít, ale jak má organizace AI řídit: kdo rozhoduje, jak se posuzují rizika a dopady, jak se AI systémy evidují, sledují a vyřazují. Podle normy lze systém certifikovat.

Není to AI politika. Politika je jeden dokument; systém zajišťuje, že se politika dodržuje a vyhodnocuje. Jak se píše samotná politika a jak souvisí s AI gramotností zaměstnanců, je samostatné téma. Není to ani technická norma pro kvalitu modelů. Neověřuje, zda je váš model přesný, ale zda máte proces, který přesnost sleduje.

Vyvíjíte, dodáváte, nebo používáte: pro koho má norma smysl

  • Vyvíjíte AI. Firmy, které trénují nebo dolaďují modely, mají z normy největší užitek: celý životní cyklus od dat po vyřazení pod jedním systémem.
  • Dodáváte AI. Softwarové firmy, které AI zabudovávají do svých produktů. Zákazníci se ptají, jak AI řídíte, a certifikát je srozumitelná odpověď.
  • Používáte AI. Většina firem. Pro ně má plná certifikace smysl hlavně tehdy, když AI rozhoduje o lidech (nábor, úvěry, péče) nebo ji vyžadují zákazníci. Jinak často stačí uplatnit principy normy bez certifikátu.

Co ISO 42001 vyžaduje nad rámec AI politiky

  • Evidenci AI systémů: jaké AI používáte, vyvíjíte nebo dodáváte, k čemu, kdo ji vlastní a odkud pocházejí data.
  • Posouzení rizik AI: co se může pokazit, od chybných výstupů po únik dat do modelu.
  • Posouzení dopadů AI: jaký dopad má systém na jednotlivce a společnost, například na férovost, soukromí nebo bezpečnost. Tohle je nové oproti ISO 27001.
  • Řízení životního cyklu: požadavky, vývoj nebo nákup, ověření, nasazení, sledování a vyřazení.
  • Řízení dat: kvalita, původ a oprávnění k datům použitým pro AI.
  • Transparentnost a lidský dohled: kdo může výstup AI přezkoumat a kdy rozhoduje člověk.
  • Dodavatelé: jak hodnotíte AI třetích stran, které používáte.

Vedle ISO 27001: co znovu využijete a co je nové

ISO 42001 má stejnou strukturu jako ISO 27001, takže lze oba systémy vést jako jeden integrovaný systém řízení.

  • Znovu využijete: rámec vedení a rolí, řízení dokumentů, interní audity, přezkoumání vedením, nápravná opatření, řízení dodavatelů a velkou část bezpečnostních opatření (přístupy, logování, ochrana dat).
  • Nové: evidence AI systémů, posouzení dopadů AI, řízení životního cyklu AI, kvalita a původ dat, lidský dohled a transparentnost.

V praxi to znamená: kdo má funkční ISMS, má k ISO 42001 zhruba poloviční cestu. Jak ISMS postavit, popisujeme v článku o zavedení ISMS.

ISO 42001 a AI Act: co certifikát ukazuje a co ne

Evropské nařízení o umělé inteligenci (AI Act) stanoví povinnosti podle rizikovosti AI systému a podle vaší role: poskytovatel, nasazující subjekt, dovozce, distributor. Některé povinnosti, například AI gramotnost zaměstnanců, se týkají téměř každé firmy, která AI používá.

  • Certifikát ISO 42001 není splnění AI Actu. Nařízení nevyžaduje certifikát a certifikát automaticky nepokrývá všechny povinnosti nařízení.
  • Systém pomáhá povinnosti doložit: evidence AI, posouzení rizik, lidský dohled a dokumentace jsou přesně to, co se po vás může chtít.
  • Harmonizované normy k AI Actu se teprve připravují. Sledujte, jak se k nim ISO 42001 bude vztahovat.

Do které kategorie vaše AI spadá a jaké povinnosti z toho plynou, posoudí právník.

Od soupisu AI k auditu: pořadí

  • 1. Soupis AI, včetně funkcí v softwaru, který už máte, a nástrojů, které zaměstnanci používají bez schválení.
  • 2. Rozsah: které AI systémy a role systém pokrývá.
  • 3. Politika a role, schválené vedením.
  • 4. Posouzení rizik a dopadů u každého systému v rozsahu.
  • 5. Opatření: pravidla pro data, lidský dohled, sledování, dodavatele.
  • 6. Provoz a záznamy po dobu, která stačí na důkazy.
  • 7. Interní audit a přezkoumání vedením, pak certifikační audit u orgánu, který má pro ISO 42001 akreditaci.

Kde se to láme

  • Neúplný soupis. AI funkce zapnuté dodavatelem v softwaru, který už používáte, nikdo nezapsal. Bez nich je systém slepý.
  • Posouzení dopadů jako formulář. Vyplněný jednou a zapomenutý. Dopad se mění s každou změnou dat nebo použití.
  • Žádný lidský dohled v praxi. Na papíře výstup kontroluje člověk, ve skutečnosti ho nikdo nečte.
  • Oprávnění nevyřešená. AI asistent vidí všechno, k čemu má uživatel přístup, a staré sdílené složky se tak najednou stávají dohledatelnými. Oprávnění je potřeba uklidit dřív, než AI zapnete.

Kde naše práce končí

Co děláme. V prostředích, která spravujeme, děláme technický soupis AI funkcí a nástrojů, uklízíme oprávnění před zapnutím AI asistentů, nastavujeme pravidla pro data, logování a správu přístupů a vedeme k tomu záznamy. Na tom, co už máte z ISO 27001, stavíme technickou část systému. Kde je potřeba, přijedou naši vlastní technici, kteří žijí ve městě, kde pracují; koordinace běží z Amsterdamu.

Co neděláme. Nejsme certifikační orgán. Nevyvíjíme ani neověřujeme AI modely a neposuzujeme jejich férovost. Neposuzujeme, do jaké kategorie AI Actu váš systém spadá; to je práce pro právníka. A posouzení dopadů AI musí vlastnit vaše organizace, protože jde o rozhodnutí o lidech, kterých se AI dotýká.

Časté otázky

Otázky, které k tomu dostáváme

Pět, které se vracejí nejčastěji.

Co je ISO 42001?

ISO/IEC 42001 je mezinárodní norma pro systém řízení umělé inteligence (AIMS). Popisuje, jak organizace odpovědně vyvíjí, dodává nebo používá AI: evidenci AI systémů, posouzení rizik a dopadů, řízení životního cyklu, lidský dohled a průběžné zlepšování. Podle normy lze systém certifikovat.

Jaký je rozdíl mezi ISO 42001 a ISO 27001?

ISO 27001 řídí bezpečnost informací, ISO 42001 řízení AI. Mají stejnou strukturu, takže je lze vést společně a velkou část procesů znovu využít. Nové v ISO 42001 je posouzení dopadů AI na lidi a společnost, řízení životního cyklu AI a kvalita a původ dat.

Splní certifikát ISO 42001 požadavky AI Actu?

Ne automaticky. AI Act certifikát nevyžaduje a certifikát nepokrývá všechny povinnosti nařízení. Dobře vedený systém ale pomáhá povinnosti doložit, protože evidence AI, posouzení rizik a lidský dohled jsou přesně to, co se po vás může chtít.

Potřebuje ISO 42001 firma, která AI jen používá?

Plná certifikace má pro uživatele AI smysl hlavně tehdy, když AI rozhoduje o lidech nebo ji vyžadují zákazníci. Jinak často stačí uplatnit principy normy: soupis AI, pravidla pro data, posouzení rizik a lidský dohled. AI gramotnost zaměstnanců se podle AI Actu týká téměř každé firmy, která AI používá.

Pomůžete nám se zavedením ISO 42001?

S technickou částí ano: soupis AI funkcí, úklid oprávnění, pravidla pro data, logování a správa přístupů se záznamy. Nevyvíjíme ani neověřujeme AI modely, neposuzujeme zařazení podle AI Actu a nejsme certifikační orgán. Posouzení dopadů AI musí vlastnit vaše organizace.

Související služby

Čtěte dál

S čím řízení AI souvisí.

Uděláme soupis AI ve vašem prostředí?

Napište nám, jaké AI nástroje u vás oficiálně běží. Projdeme, co dalšího je zapnuté v softwaru, který už máte, a co je potřeba uklidit v oprávněních.

Praktické IT znalosti ve vaší e-mailové schránce

Nové návody ke správě, zabezpečení a pracovním stanicím, psané lidmi, kteří tu práci dělají. Žádné obchodní řeči a odhlásíte se jedním kliknutím.

Vaši adresu používáme jen pro newsletter. Viz naše zásady ochrany osobních údajů.

Nabídka Zavolat