
ISO 42001: irányítási rendszer az AI-hoz, és hogyan illik az ISO 27001 mellé
Az ISO 42001 a mesterséges intelligencia irányítási rendszerének első nemzetközi szabványa. Nem arról szól, milyen AI-t szabad használni, hanem arról, hogyan határozza meg, kezeli és követi igazolhatóan a szervezet az AI kockázatait. Ez az írás a következő kérdésről szól: kell-e, mit kér egy AI-szabályzaton felül, és mennyit használhat újra az ISO 27001-es rendszeréből?
Az ISO/IEC 42001 AI irányítási rendszert kér: az AI-rendszerek kockázatainak és hatásainak meghatározását, kezelését, rögzítését és folyamatos ellenőrzését.
Annak a szervezetnek, amely csak használ AI-t, gyakran elég egy jó AI-szabályzat; a szabvány főleg annak éri meg, aki AI-t fejleszt, szállít vagy kritikus folyamatban használ.
Akinek van ISO 27001-e, újrahasználja a szerkezetet, az auditot és a dokumentumkezelést. A tanúsítvány nem bizonyítja az AI Act betartását, és mi senkit sem tanúsítunk.
Mi az ISO 42001, és mi nem
Az ISO/IEC 42001 2023 végén jelent meg, és az AI irányítási rendszerével (angol rövidítéssel AIMS) szembeni követelményeket írja le. Mint az ISO 27001 az információbiztonságnál, nem ad listát a tiltott alkalmazásokról vagy jóváhagyott eszközökről. Azt kéri, hogy tudja, milyen AI-t fejleszt, szállít vagy használ, milyen kockázatok és hatások tartoznak hozzá, mit tesz ellenük, és hogy ezt igazolhatóan követi.
Ami nem: nem műszaki szabvány egy modell minőségére, nem termékminősítés, és nem pótolja a jogszabályokat. Szervezetet tanúsítanak, nem chatbotot.
A szabvány két korábbi dokumentumra támaszkodik: az ISO/IEC 22989-re a fogalmakhoz és szerepekhez, és az ISO/IEC 23894-re mint AI-kockázatkezelési útmutatóra.
Fejleszt, szállít vagy használ: kinek van értelme
A legfontosabb előzetes kérdés az, milyen szerepe van. A szabvány minden AI-t szállító vagy használó szervezetre vonatkozik, de a ráfordítás és a haszon nagyon eltér.
- AI-t fejleszt vagy épít a termékébe. Itt a leginkább helyén van: az ügyfelek tudni akarják, hogyan kezeli az adatokat, modelleket és változásokat, és a tanúsítvány erre egyszerre válaszol.
- AI-t tartalmazó szolgáltatást nyújt. Az ügyfél vagy beszerző ugyanezeket kérdezi. Ha minden pályázatnál visszatérnek, megéri egy rendszer.
- Kritikus folyamatban használ AI-t. Emberek, hitelek, hozzáférés vagy biztonság megítélése. Itt a hatások elég súlyosak a rendszerszintű kezeléshez.
- Irodai eszközként használ AI-t. Asszisztens a levelezésben, megbeszélések összefoglalása. Ilyenkor általában elég egy világos AI-szabályzat és AI-jártasság.
Ha bizonytalan, kezdje annak leltárával, mi fut. Ez mindenképp kell, és megmutatja, melyik sorban van.
Mit kér az ISO 42001 egy AI-szabályzaton felül
Az AI-szabályzat azt mondja, mi szabad. A szabvány azt a rendszert kéri, amely ezt megvalósítja. A különbséget adó elemek:
- AI-kockázatértékelés. Rendszerenként: mi romolhat el a szervezetnek és az érintett embereknek, és mennyire valószínű.
- Az AI-rendszer hatásvizsgálata. Ez új az ISO 27001-hez képest: a szervezeten kívüli személyekre és csoportokra gyakorolt hatás, például méltánytalan eredmény vagy megmagyarázhatatlan döntés.
- Alkalmazhatósági nyilatkozat. Az A melléklet mely intézkedéseit alkalmazza, melyeket nem, és miért.
- Az életciklus. Hogyan tervezik, tesztelik, helyezik üzembe, módosítják és vezetik ki az AI-rendszert, és ki dönt lépésenként.
- Adatok. A rendszer által használt vagy tanuláshoz felhasznált adatok eredete, minősége és alkalmassága.
- Tájékoztatás az érdekelteknek. Mit tudnak meg a felhasználók és érintettek arról, mit csinál a rendszer és hol a határa.
- Szállítók. A beszerzett AI is beletartozik: mit vállal a szállító, és mit kezel továbbra is Ön.
Az ISO 27001 mellett: mi használható újra, és mi új
Az ISO 42001 ugyanazt a fejezetfelosztást követi, mint az ISO 27001 és az ISO 9001. Tanúsított ISO 27001-es rendszerrel nem nulláról kezd.
Amit újrahasznál:
- A szerkezetet: környezet, vezetés, tervezés, támogatás, működés, értékelés, fejlesztés.
- A belső auditot, a vezetőségi átvizsgálást, a dokumentumkezelést és a helyesbítő intézkedéseket.
- A hozzáférés, naplózás, szállítók és incidensek biztonsági intézkedéseit; az AI-rendszer is információs rendszer.
- A kockázati módszert, ha elég széles a bizalmasság, sértetlenség és rendelkezésre állás túli mérlegelésre.
Ami új: az emberekre gyakorolt hatás vizsgálata, a modellek életciklusa, az adatok minősége és eredete, a magyarázhatóság és az érintettek tájékoztatása. Ezek gyakran más emberekhez tartoznak, mint a biztonsági felelős: termékkezelés, jog, folyamatgazda.
Vonja össze a kettőt egy integrált irányítási rendszerbe, egy auditciklussal. Két külön rendszer kétszer ugyanazt a vezetőségi átvizsgálást jelenti.
ISO 42001 és az AI Act: mit bizonyít egy tanúsítvány, és mit nem
Az európai AI-rendelet (AI Act) jogszabály; az ISO 42001 önkéntes szabvány. Érintkeznek, de nem ugyanazok.
- Amit a tanúsítvány megmutat: a szervezet rendszerszinten kezeli az AI-kockázatokat, működő irányítási rendszerrel, amelyet független szervezet értékelt.
- Amit nem: hogy egy adott AI-rendszer megfelel az AI Actnek. Az írás idején az ISO 42001 nem harmonizált szabvány e rendelet alatt, tehát a tanúsítvány nem ad megfelelőségi vélelmet.
- Ahol segít: az AI Act a magas kockázatú AI szolgáltatóitól többek közt kockázatkezelést, adatkezelést, dokumentációt és emberi felügyeletet kér. Egy működő AIMS ehhez a bizonyíték és a munkamód nagy részét adja.
Ha egy AI-rendszer az AI Act alá eshet, jogilag vizsgáltassa meg, melyik kockázati kategóriába tartozik és milyen kötelezettségekkel jár. Erre egy irányítási rendszer nem válaszol.
Az AI-leltártól az auditig: a sorrend
- Leltár. Milyen AI-rendszereket fejleszt, szállít vagy használ, a meglévő szoftverbe épített AI-t és a munkatársak által maguktól bekapcsoltakat is beleértve. Lásd a shadow AI írást.
- Szerep és hatókör. Rendszerenként a szerepe (fejlesztő, szolgáltató, felhasználó), és mely rendszerek tartoznak az irányítási rendszerbe.
- Szabályzat és felelősségek. A vezetőség által vállalt AI-szabályzat, rendszerenként gazdával.
- Kockázat- és hatásvizsgálat. Rendszerenként, azokkal, akik használják, és azokkal, akik érzik a hatását.
- Intézkedések és alkalmazhatósági nyilatkozat. Mit tesz, mit tudatosan nem, és miért.
- Működés és bizonyítás. Néhány hónap futás, megmutatható nyilvántartásokkal, értékelésekkel és változásokkal.
- Belső audit, vezetőségi átvizsgálás, tanúsítási audit. Az utolsó két szakaszban, tanúsító szervezetnél. Kérdezzen rá, akkreditált-e pontosan erre a szabványra (Magyarországon a Nemzeti Akkreditáló Hatóság); új szabványnál ez nem magától értetődő.
A ráfordítást az határozza meg, hány AI-rendszer van a hatókörben, maga építi-e vagy vásárolja őket, mi van már az ISO 27001-es rendszerben, és az AI-használat mekkora része ismeretlen még.
Hol csúszik el
- Csak a saját terméket fedő hatókör. A levelezésben, CRM-ben és értekezletszoftverben lévő AI is a szabályzat alá tartozik, és az auditor rákérdez.
- A hatásvizsgálat mint űrlap. Ha az IT-n kívülről senki sem ír bele, éppen azok a hatások hiányoznak, amelyekről szó van.
- A szállítók szavára hagyatkozni. A „nem tanítunk az Ön adatain” egy mondat; kérdezze meg, hol áll szerződésben, és hogyan ellenőrzi.
- Pillanatkép. AI-funkciók kérés nélkül érkeznek szoftverfrissítésekkel. Rögzített felülvizsgálat nélkül a leltár egy negyedév után elavult.
- A tanúsítványt összekeverni a megfeleléssel. Akinek be kell tartania az AI Actet, annak ezt külön kell igazolnia.
Hol ér véget a munkánk
Amit csinálunk. A műszaki oldalt adjuk: feltérképezzük, milyen AI fut a környezetben és milyen jogai vannak, a meglévő hozzáférési jogokon belül állítjuk be az AI-asszisztenseket, például a Microsoft 365 Copilotot, címkézzük és elkülönítjük az érzékeny adatokat, rendezzük a naplózást és a hozzáférés-kezelést, és az üzemeltetésünkből adjuk az auditor által a biztonsági intézkedéseknél kért bizonyítékot. Mi magunk ISO 9001, ISO/IEC 27001, ISO 14001 és Kiwa NEN 4400-1 szerint dolgozunk.
Amit nem csinálunk. Nem vagyunk tanúsító szervezet és nem vagyunk auditor. Nem adunk ki ISO 42001 tanúsítványt, nem mondjuk meg, megfelel-e a szabványnak, és nem végzünk független auditot. Nem vagyunk jogászok sem: hogy egy AI-rendszer az AI Act alá esik-e és milyen kötelezettségekkel jár, azt jogilag vizsgáltassa meg. Az emberekre gyakorolt hatás vizsgálatát a saját folyamatgazdáival írja; mi a műszaki tényeket adjuk hozzá.
Kérdések, amelyeket erről kapunk
Amit a leggyakrabban kérdeznek, amikor az ISO 42001 napirendre kerül.
Mi az az ISO 42001?
Az ISO/IEC 42001 a mesterséges intelligencia irányítási rendszerével (AIMS) szembeni követelményeket tartalmazó nemzetközi szabvány. Azt kéri, hogy a szervezet határozza meg, milyen AI-t fejleszt, szállít vagy használ, milyen kockázatok és hatások tartoznak hozzá, és hogyan kezeli és követi ezeket. A szervezet tanúsíttathatja magát ellene.
Kötelező az ISO 42001?
Nem, az ISO 42001 önkéntes szabvány. Az ügyfelek és pályázatok azonban egyre gyakrabban kérik az AI-t fejlesztő vagy szolgáltatásukban használó szállítóktól. Az AI-val kapcsolatos jogi kötelezettségek az AI Actből erednek, nem a szabványból.
Mi a különbség az ISO 42001 és az ISO 27001 között?
Az ISO 27001 az információbiztonságról szól, az ISO 42001 az AI felelős fejlesztéséről és használatáról, beleértve a szervezeten kívüli emberekre gyakorolt hatásokat, az adatok minőségét és a modellek életciklusát. Fejezetfelosztásuk azonos, tehát egy irányítási rendszerbe vonhatók.
Bizonyítja egy ISO 42001 tanúsítvány, hogy megfelelünk az AI Actnek?
Nem. A tanúsítvány azt mutatja, hogy rendszerszinten kezeli az AI-kockázatokat, de nem mondja, hogy egy adott AI-rendszer megfelel az AI Actnek. Az írás idején az ISO 42001 nem harmonizált szabvány e rendelet alatt. A működő irányítási rendszer viszont segít az AI Act által kért bizonyításban.
El tudják intézni az ISO 42001 tanúsítványunkat?
Nem. Tanúsítványt csak akkreditált tanúsító szervezet ad ki, és mi nem vagyunk tanúsító szervezet vagy auditor. Amit igen: rendbe tesszük a műszaki oldalt: láthatóvá tesszük, milyen AI fut, a hozzáférési jogokat, címkéket és naplózást, és az ezekről szóló bizonyítékot az üzemeltetésünkből.
További olvasnivaló
A szabályzat, az alatta lévő biztonság és maga az AI.
Térképezzük fel először, milyen AI fut?
Mondja el, milyen AI-eszközöket és funkciókat ismer, és mely folyamatokban vannak. Megmutatjuk, mi aktív műszakilag a környezetben és milyen jogokkal. A tanúsítást a tanúsító szervezetre hagyjuk.
Gyakorlatias IT-tudás az Ön postaládájában
Új útmutatók az üzemeltetésről, a biztonságról és a munkaállomásokról, azok írják, akik a munkát végzik. Semmi üzletieskedés, és egyetlen kattintással leiratkozhat.