
ISO 42001: systém riadenia pre umelú inteligenciu a jeho vzťah k ISO 27001
ISO 42001 je prvá medzinárodná norma pre systém riadenia umelej inteligencie. Nehovorí, akú AI smiete používať, ale ako organizácia identifikuje, ovláda a preukázateľne sleduje riziká AI. Tento článok odpovedá na otázky, ktoré z toho vyplývajú: potrebujete ju, čo požaduje popri politike AI a koľko z vášho systému ISO 27001 môžete využiť?
ISO/IEC 42001 vyžaduje systém riadenia pre AI: identifikovať, ovládať, zaznamenávať a preskúmavať riziká a dopady systémov AI.
Pre organizáciu, ktorá AI len používa, často stačí dobrá politika AI; norma sa oplatí hlavne tým, ktorí AI vyvíjajú, dodávajú alebo sa na ňu spoliehajú v kritickom procese.
Ak máte ISO 27001, využijete štruktúru, audit a kontrolu dokumentov. Certifikát nie je dôkazom súladu s aktom o umelej inteligencii a my nikoho necertifikujeme.
Čo ISO 42001 je a čo nie je
ISO/IEC 42001 vyšla koncom roka 2023 a stanovuje požiadavky na systém riadenia umelej inteligencie (AIMS). Rovnako ako ISO 27001 pre informačnú bezpečnosť nedáva zoznam zakázaných použití ani schválených nástrojov. Vyžaduje, aby ste vedeli, akú AI vyvíjate, dodávate alebo používate, aké riziká a dopady k nej patria, čo s nimi robíte, a aby ste to preukázateľne udržiavali aktuálne.
Čo to nie je: technická norma kvality modelu, značka produktu ani náhrada legislatívy. Certifikuje sa organizácia, nie chatbot.
Norma stavia na dvoch skorších dokumentoch: ISO/IEC 22989 pre pojmy a role a ISO/IEC 23894 ako pokyny pre riadenie rizík AI. Ak chcete porozumieť slovníku normy 42001, najužitočnejšia je prvá.
Vyvíjať, dodávať alebo používať: komu norma vyhovuje
Kľúčová otázka na začiatku je vaša rola. Norma sa vzťahuje na každú organizáciu, ktorá AI poskytuje alebo používa, ale úsilie a návratnosť sa veľmi líšia.
- AI vyvíjate alebo ju zabudovávate do svojho produktu. Tu norma sedí najlepšie: zákazníci chcú vedieť, ako spravujete údaje, modely a zmeny, a certifikát na to odpovie naraz.
- Dodávate službu s AI vo vnútri. Zákazníci a nákupné oddelenia kladú rovnaké otázky. Ak sa vracajú v každej súťaži, systém sa oplatí.
- AI používate v kritickom procese. Posudzovanie ľudí, úver, prístup alebo bezpečnosť. Dopady tam majú takú váhu, že ich treba riadiť systematicky.
- AI používate ako kancelársky nástroj. Asistent v e-maile, zhrnutia schôdzí. Jasná politika AI a vzdelávanie o AI zvyčajne stačia a úplný systém riadenia je ťažší než riziká.
Ak váhate, začnite inventúrou toho, čo beží. Potrebujete ju tak či tak a ukáže, v ktorom riadku ste.
Čo ISO 42001 požaduje popri politike AI
Politika AI hovorí, čo je dovolené. Norma žiada systém, ktorý z tej politiky robí skutočnosť. Časti, ktoré robia rozdiel:
- Posúdenie rizík AI. Pri každom systéme AI: čo sa môže pokaziť, pre organizáciu aj pre dotknuté osoby, a aké je to pravdepodobné.
- Posúdenie dopadu systému AI. V porovnaní s ISO 27001 je to novinka: dôsledky pre jednotlivcov a skupiny mimo vašej organizácie, napríklad nespravodlivý výsledok alebo rozhodnutie, ktoré nikto nevie vysvetliť.
- Vyhlásenie o aplikovateľnosti. Ktoré opatrenia z prílohy A uplatňujete, ktoré nie a prečo.
- Životný cyklus. Ako sa systém AI navrhuje, testuje, nasadzuje, mení a vyraďuje a kto rozhoduje v každom kroku.
- Údaje. Pôvod, kvalita a vhodnosť údajov, s ktorými systém pracuje alebo na ktorých bol trénovaný.
- Informácie pre zainteresované strany. Čo sa používateľom a dotknutým osobám hovorí o tom, čo systém robí a kde sa jeho možnosti končia.
- Dodávatelia. Pokrytá je aj AI, ktorú nakupujete: k čomu sa dodávateľ zaväzuje a čo stále ovládate sami.
Popri ISO 27001: čo využijete a čo je nové
ISO 42001 sleduje rovnakú štruktúru článkov ako ISO 27001 a ISO 9001. S certifikovaným systémom ISO 27001 nezačínate od nuly; veľa z toho, čo ste vykonali podľa požiadaviek ISO 27001, sa prenáša.
Čo využijete:
- Štruktúru: kontext, vedenie, plánovanie, podpora, prevádzka, hodnotenie, zlepšovanie.
- Interný audit, preskúmanie vedením, kontrolu dokumentov a nápravné opatrenia.
- Bezpečnostné opatrenia okolo prístupov, logovania, dodávateľov a incidentov; systém AI je tiež informačný systém.
- Vašu metódu rizík, ak je dosť široká na to, aby vážila viac než dôvernosť, integritu a dostupnosť.
Čo je nové: posúdenie dopadu na ľudí, životný cyklus modelu, kvalita a pôvod údajov, vysvetliteľnosť a informácie pre dotknutých. ISO 27001 sa na to nepýta a často to patrí iným ľuďom než bezpečnostnému vedúcemu: produktovému manažmentu, právnikom, vlastníkovi procesu.
Spojte obe do jedného integrovaného systému riadenia s jedným auditným cyklom. Dva samostatné systémy vedľa seba znamenajú, že rovnaké preskúmanie vedením držíte dvakrát.
ISO 42001 a akt EÚ o umelej inteligencii: čo certifikát dokazuje a čo nie
Akt EÚ o umelej inteligencii je legislatíva; ISO 42001 je dobrovoľná norma. Dotýkajú sa, ale nie sú to isté.
- Čo certifikát ukazuje: že vaša organizácia riadi riziká AI systematicky, s fungujúcim systémom riadenia posúdeným nezávislým orgánom.
- Čo neukazuje: že konkrétny systém AI spĺňa akt o umelej inteligencii. V čase písania nie je ISO 42001 harmonizovanou normou podľa tohto nariadenia, takže certifikát nedáva domnienku zhody.
- Kde pomáha: akt o umelej inteligencii vyžaduje od poskytovateľov vysokorizikovej AI okrem iného riadenie rizík, správu údajov, dokumentáciu a ľudský dohľad. Fungujúci AIMS dodá veľkú časť dôkazov a spôsobu práce, ktoré na to potrebujete.
Ak systém AI môže spadať pod akt o umelej inteligencii, nechajte právnika posúdiť jeho kategóriu rizika a súvisiace povinnosti. Systém riadenia na túto otázku neodpovie za vás.
Od inventúry AI po audit: postup
- Inventúra. Ktoré systémy AI vyvíjate, dodávate alebo používate, vrátane AI zabudovanej do existujúceho softvéru a funkcií, ktoré si zamestnanci zapli sami.
- Rola a rozsah. Pri každom systéme vaša rola (vývojár, poskytovateľ, používateľ) a ktoré systémy patria do systému riadenia.
- Politika a zodpovednosti. Politika AI, za ktorou stojí vedenie, a vlastník každého systému.
- Posúdenie rizík a dopadov. Pri každom systéme, s ľuďmi, ktorí ho používajú, a s ľuďmi, ktorí cítia jeho účinky.
- Opatrenia a vyhlásenie o aplikovateľnosti. Čo robíte, čo zámerne nerobíte a prečo.
- Prevádzka a dôkazy. Niekoľko mesiacov chodu so záznamami, posúdeniami a zmenami, ktoré viete ukázať.
- Interný audit, preskúmanie vedením, certifikačný audit. Posledný v dvoch stupňoch s certifikačným orgánom. Overte, že orgán je akreditovaný pre práve túto normu; pri novej norme to nie je samozrejmé.
Čo určuje úsilie: koľko systémov AI je v rozsahu, či ich vyvíjate, alebo kupujete, čo je už v systéme ISO 27001 a koľko vášho používania AI je stále neznámych.
Kde to zlyháva
- Rozsah, ktorý pokrýva len váš vlastný produkt. AI vo vašom e-maile, CRM a softvéri na schôdze tiež spadá pod vašu politiku a audítor sa na ňu spýta.
- Posúdenie dopadu ako formulár. Ak ho nepomáha písať nikto mimo IT, chýbajú práve dôsledky, na ktorých záleží.
- Brať dodávateľov za slovo. „Netrénujeme na vašich údajoch“ je veta; opýtajte sa, kde je v zmluve a ako to overujete.
- Momentka. Funkcie AI prichádzajú bez vyžiadania s aktualizáciami softvéru. Bez pravidelného preskúmania je inventúra zastaraná za štvrťrok.
- Zámena certifikátu so súladom. Ak musíte spĺňať akt o umelej inteligencii, musíte to preukázať osobitne.
Kde naša práca končí
Čo robíme. Dodávame technickú stránku: mapovanie, aká AI beží vo vašom prostredí a aký má prístup, nastavenie asistentov AI ako Microsoft 365 Copilot v rámci existujúcich oprávnení, označovanie a ochranu citlivých údajov, poriadok v logovaní a správe prístupov a dôkazy od nášho manažmentu, ktoré audítor žiada k bezpečnostným opatreniam. Sami pracujeme podľa ISO 9001, ISO/IEC 27001, ISO 14001 a Kiwa NEN 4400-1.
Čo nerobíme. Nie sme certifikačný orgán ani audítor. Nevydávame certifikát ISO 42001, nehovoríme, či normu spĺňate, a nevykonávame nezávislý audit. Nie sme ani právnici: či systém AI spadá pod akt o umelej inteligencii a aké povinnosti platia, je vec právneho posúdenia. Posúdenie dopadu na ľudí píšete so svojimi vlastníkmi procesov; my dodávame technické fakty.
Otázky, ktoré dostávame
Tie, ktoré sa objavujú najčastejšie, keď príde reč na ISO 42001.
Čo je ISO 42001?
ISO/IEC 42001 je medzinárodná norma stanovujúca požiadavky na systém riadenia umelej inteligencie (AIMS). Žiada, aby organizácia určila, akú AI vyvíja, poskytuje alebo používa, aké riziká a dopady k nej patria a ako ich ovláda a udržiava. Organizácia sa môže voči nej certifikovať.
Je ISO 42001 povinná?
Nie, ISO 42001 je dobrovoľná norma. Zákazníci a súťaže ju stále častejšie požadujú od dodávateľov, ktorí AI vyvíjajú alebo ju používajú vo svojej službe. Právne povinnosti okolo AI vyplývajú z legislatívy, ako je akt EÚ o umelej inteligencii, nie z normy.
Aký je rozdiel medzi ISO 42001 a ISO 27001?
ISO 27001 je o informačnej bezpečnosti; ISO 42001 je o zodpovednom vývoji a používaní AI, vrátane dopadu na ľudí mimo vašej organizácie, kvality údajov a životného cyklu modelu. Majú rovnakú štruktúru článkov, takže ich môžete spojiť do jedného systému riadenia.
Dokazuje certifikát ISO 42001 súlad s aktom EÚ o umelej inteligencii?
Nie. Certifikát ukazuje, že riziká AI riadite systematicky, ale nehovorí, že konkrétny systém AI spĺňa akt o umelej inteligencii. V čase písania nie je ISO 42001 harmonizovanou normou podľa tohto nariadenia. Fungujúci systém riadenia pri dôkazoch, ktoré akt požaduje, pomáha.
Môžete nám zabezpečiť certifikáciu ISO 42001?
Nie. Certifikát vydáva iba akreditovaný certifikačný orgán a my nie sme certifikačný orgán ani audítor. Dáme do poriadku technickú stranu: prehľad o tom, aká AI beží, prístupové práva, označenia a logovanie, a dôkazy o tom od nášho manažmentu.
Ďalšie čítanie
Politika, bezpečnosť pod ňou a samotná AI.
Začneme zmapovaním, aká AI beží?
Napíšte nám, aké nástroje a funkcie AI poznáte a v ktorých procesoch sú. Ukážeme vám, čo je vo vašom prostredí technicky aktívne a aký to má prístup; certifikáciu nechávame na váš certifikačný orgán.
Praktické IT znalosti vo vašej e-mailovej schránke
Nové návody o správe, bezpečnosti a pracovných staniciach, písané ľuďmi, ktorí túto prácu robia. Žiadne obchodné reči a odhlásiť sa môžete jedným kliknutím.