
ISO 42001: system zarządzania dla AI i jak pasuje obok ISO 27001
ISO 42001 to pierwsza międzynarodowa norma dla systemu zarządzania sztuczną inteligencją. Nie mówi, jakiej AI wolno używać, tylko jak organizacja ustala ryzyka AI, nad nimi panuje i wykazywalnie je prowadzi. Ten artykuł dotyczy pytania, które pada potem: czy tego potrzebujesz, czego norma wymaga ponad politykę AI i ile ze swojego systemu ISO 27001 możesz wykorzystać ponownie?
ISO/IEC 42001 wymaga systemu zarządzania AI: ustalania ryzyk i skutków systemów AI, panowania nad nimi, zapisywania ich i stałego sprawdzania.
Dla organizacji, która AI tylko używa, dobra polityka AI często wystarcza; norma opłaca się głównie tym, którzy AI budują, dostarczają albo stosują w krytycznym procesie.
Kto ma ISO 27001, wykorzysta strukturę, audyt i zarządzanie dokumentami. Certyfikat nie jest dowodem zgodności z AI Act, a my nikogo nie certyfikujemy.
Czym jest ISO 42001, a czym nie
ISO/IEC 42001 ukazała się pod koniec 2023 roku i opisuje wymagania wobec systemu zarządzania AI, po angielsku w skrócie AIMS. Tak jak ISO 27001 dla bezpieczeństwa informacji, nie daje listy zakazanych zastosowań ani zatwierdzonych narzędzi. Wymaga, byś wiedział, jaką AI rozwijasz, dostarczasz lub używasz, jakie ryzyka i skutki się z tym wiążą, co z tym robisz, i żebyś to wykazywalnie prowadził.
Czym nie jest: nie jest normą techniczną jakości modelu, znakiem jakości produktu ani zamiennikiem przepisów. Certyfikowana jest organizacja, a nie chatbot.
Norma opiera się na dwóch wcześniejszych dokumentach: ISO/IEC 22989 dla pojęć i ról oraz ISO/IEC 23894 jako wytycznych do zarządzania ryzykiem przy AI. Kto chce zrozumieć aparat pojęciowy normy 42001, najwięcej skorzysta z pierwszego.
Budować, dostarczać czy używać: dla kogo norma ma sens
Najważniejsze pytanie na początku dotyczy tego, jaką masz rolę. Norma dotyczy każdej organizacji, która dostarcza lub używa AI, ale nakład i pożytek bardzo się różnią.
- Rozwijasz AI albo wbudowujesz ją w swój produkt. Wtedy norma jest najbardziej na miejscu: klienci chcą wiedzieć, jak zarządzasz danymi, modelami i zmianami, a certyfikat odpowiada na to za jednym razem.
- Dostarczasz usługę, w której jest AI. Klient albo dział zakupów zadaje wtedy te same pytania. Jeśli wracają w każdym przetargu, system się opłaca.
- Używasz AI w krytycznym procesie. Oceny ludzi, kredyty, dostęp albo bezpieczeństwo. Skutki ważą tu dość, by systematycznie nad nimi panować.
- Używasz AI jako narzędzia biurowego. Asystent w poczcie, streszczenia spotkań. Wtedy zwykle wystarcza jasna polityka AI i budowanie kompetencji w zakresie AI, a pełny system zarządzania jest cięższy niż ryzyka.
Jeśli się wahasz, zacznij od inwentaryzacji tego, co działa. I tak jej potrzebujesz, a pokaże, w którym rzędzie jesteś.
Czego ISO 42001 wymaga ponad politykę AI
Polityka AI mówi, co wolno. Norma wymaga systemu, który tę politykę urzeczywistnia. Elementy, które robią różnicę:
- Ocena ryzyka AI. Dla każdego systemu AI: co może pójść źle, dla organizacji i dla ludzi, którzy się z nim zetkną, i jak to prawdopodobne.
- Ocena wpływu systemu AI. To nowość wobec ISO 27001: skutki dla osób i grup poza Twoją organizacją, jak niesprawiedliwy wynik czy decyzja, której nikt nie potrafi wyjaśnić.
- Deklaracja stosowania. Które środki z załącznika A stosujesz, których nie i dlaczego.
- Cykl życia. Jak system AI jest projektowany, testowany, wdrażany, zmieniany i wycofywany oraz kto na każdym kroku o tym decyduje.
- Dane. Pochodzenie, jakość i przydatność danych, z którymi system pracuje lub na których był trenowany.
- Informacje dla zainteresowanych. Co użytkownicy i osoby, których to dotyczy, dowiadują się o tym, co system robi i gdzie się kończy.
- Dostawcy. AI, którą kupujesz, też podlega: co obiecuje dostawca, nad czym sam dalej panujesz.
Obok ISO 27001: co wykorzystasz ponownie, a co jest nowe
ISO 42001 ma ten sam układ rozdziałów co ISO 27001 i ISO 9001. Jeśli masz certyfikowany system ISO 27001, nie zaczynasz więc od zera. To, co masz już odhaczone w podejściu do ISO 27001 dla firm, w dużej części się liczy.
Co wykorzystasz ponownie:
- Budowę: kontekst, przywództwo, planowanie, wsparcie, działanie, ocena, doskonalenie.
- Audyt wewnętrzny, przegląd zarządzania, zarządzanie dokumentami i działania korygujące.
- Zabezpieczenia dotyczące dostępu, logowania, dostawców i incydentów; system AI jest też systemem informacyjnym.
- Swoją metodę ryzyka, jeśli jest dość szeroka, by ważyć więcej niż poufność, integralność i dostępność.
Co dochodzi nowego: ocena wpływu na ludzi, cykl życia modeli, jakość i pochodzenie danych, wyjaśnialność i informacje dla zainteresowanych. To pytania, których ISO 27001 nie stawia, i często leżą u innych osób niż odpowiedzialny za bezpieczeństwo: zarządzanie produktem, dział prawny, właściciel procesu.
Połącz oba w jeden zintegrowany system zarządzania, z jednym cyklem audytów. Dwa osobne systemy obok siebie to dwa razy ten sam przegląd zarządzania.
ISO 42001 a AI Act: co certyfikat pokazuje, a czego nie
Europejskie rozporządzenie w sprawie AI (AI Act) to prawo; ISO 42001 to norma dobrowolna. Stykają się, ale nie są tym samym.
- Co pokazuje certyfikat: że Twoja organizacja systematycznie zarządza ryzykami AI, działającym systemem zarządzania, który ocenia niezależna jednostka.
- Czego nie pokazuje: że dany system AI spełnia wymagania AI Act. W chwili pisania ISO 42001 nie jest normą zharmonizowaną w ramach tego rozporządzenia, więc certyfikat nie daje domniemania zgodności.
- Gdzie jednak pomaga: AI Act wymaga od dostawców AI wysokiego ryzyka między innymi zarządzania ryzykiem, zarządzania danymi, dokumentacji i nadzoru ludzkiego. Działający AIMS w dużej części dostarcza dowodów i sposobu pracy, których do tego potrzebujesz.
Jeśli system AI może podlegać AI Act, zlećcie ocenę prawną, do której kategorii ryzyka należy i jakie obowiązki z tego wynikają. Na to pytanie system zarządzania Ci nie odpowie.
Od inwentaryzacji AI do audytu: kolejność
- Inwentaryzacja. Jakie systemy AI rozwijasz, dostarczasz lub używasz, łącznie z AI wbudowaną w istniejące oprogramowanie, którą pracownicy włączyli sami.
- Rola i zakres. Przy każdym systemie Twoja rola (twórca, dostawca, użytkownik) i które systemy wchodzą do systemu zarządzania.
- Polityka i odpowiedzialności. Polityka AI, którą niesie zarząd, i właściciel przy każdym systemie.
- Ocena ryzyka i wpływu. Dla każdego systemu, z udziałem ludzi, którzy go używają, i ludzi, którzy odczuwają skutki.
- Zabezpieczenia i deklaracja stosowania. Co robisz, czego świadomie nie robisz i dlaczego.
- Praca i dowody. Kilka miesięcy działania, z rejestrami, ocenami i zmianami, które możesz pokazać.
- Audyt wewnętrzny, przegląd zarządzania, audyt certyfikujący. Ostatni w dwóch fazach w jednostce certyfikującej. Sprawdź, czy jest akredytowana właśnie do tej normy; przy nowej normie nie jest to oczywiste.
Nakład kształtują: liczba systemów AI w zakresie, to, czy budujesz je sam, czy kupujesz, co jest już w systemie ISO 27001 i ile z Twojego użycia AI jest jeszcze nieznane.
Gdzie to się wykłada
- Zakres obejmujący tylko własny produkt. AI w Twojej poczcie, CRM i oprogramowaniu do spotkań też podlega Twojej polityce i audytor o nią zapyta.
- Ocena wpływu jako formularz. Jeśli nikt spoza IT nie pisze jej razem, brakuje właśnie skutków, o które chodzi.
- Wierzenie dostawcom na słowo. „Nie trenujemy na Waszych danych” to zdanie; zapytaj, gdzie jest to zapisane w umowie i jak to sprawdzasz.
- Migawka. Funkcje AI pojawiają się z aktualizacjami oprogramowania bez pytania. Bez stałego przeglądu inwentarz po kwartale jest nieaktualny.
- Mylenie certyfikatu ze zgodnością. Kto ma przestrzegać AI Act, musi to wykazać osobno.
Gdzie kończy się nasza praca
Co robimy. Dostarczamy stronę techniczną: mapujemy, jaka AI działa w Twoim środowisku i jakie ma uprawnienia, urządzamy asystentów AI, jak Microsoft 365 Copilot, w ramach istniejących uprawnień dostępu, oznaczamy i zabezpieczamy dane wrażliwe, porządkujemy logowanie i zarządzanie dostępem oraz dostarczamy dowody z naszego zarządzania, o które audytor pyta przy zabezpieczeniach. Sami pracujemy według ISO 9001, ISO/IEC 27001 i ISO 14001.
Czego nie robimy. Nie jesteśmy jednostką certyfikującą ani audytorem. Nie wydajemy certyfikatu ISO 42001, nie mówimy, czy spełniasz normę, i nie prowadzimy niezależnego audytu. Nie jesteśmy też prawnikiem: czy system AI podlega AI Act i jakie obowiązki z tego wynikają, zlecasz ocenie prawnej. Ocenę wpływu na ludzi piszesz z własnymi właścicielami procesów; my dostarczamy do niej fakty techniczne.
Pytania, które od Ciebie słyszymy
Pytania, które najczęściej padają, gdy na stole leży ISO 42001.
Co to jest ISO 42001?
ISO/IEC 42001 to międzynarodowa norma z wymaganiami wobec systemu zarządzania sztuczną inteligencją (AIMS). Wymaga, by organizacja ustaliła, jaką AI rozwija, dostarcza lub używa, jakie ryzyka i skutki się z tym wiążą oraz jak nad nimi panuje i je prowadzi. Organizacja może poddać się certyfikacji względem tej normy.
Czy ISO 42001 jest obowiązkowa?
Nie, ISO 42001 to norma dobrowolna. Klienci i przetargi coraz częściej jednak o nią pytają dostawców, którzy rozwijają AI lub używają jej w swojej usłudze. Obowiązki prawne dotyczące AI wynikają z AI Act, a nie z normy.
Czym różni się ISO 42001 od ISO 27001?
ISO 27001 dotyczy bezpieczeństwa informacji, ISO 42001 odpowiedzialnego rozwijania i używania AI, z uwzględnieniem skutków dla ludzi spoza Twojej organizacji, jakości danych i cyklu życia modeli. Mają ten sam układ rozdziałów, więc możesz połączyć je w jeden system zarządzania.
Czy certyfikat ISO 42001 dowodzi, że spełniamy AI Act?
Nie. Certyfikat pokazuje, że systematycznie zarządzasz ryzykami AI, ale nie mówi, że dany system AI spełnia AI Act. W chwili pisania ISO 42001 nie jest normą zharmonizowaną w ramach tego rozporządzenia. Działający system zarządzania pomaga jednak w dowodzie, którego wymaga AI Act.
Czy możecie załatwić nam certyfikat ISO 42001?
Nie. Certyfikat wydaje wyłącznie akredytowana jednostka certyfikująca, a my nie jesteśmy ani jednostką certyfikującą, ani audytorem. Robimy za to stronę techniczną: wgląd w to, jaka AI działa, uprawnienia dostępu, etykiety i logowanie oraz dowody z naszego zarządzania.
Czytaj dalej
Zabezpieczenia pod spodem i sama AI.
Najpierw zmapujemy, jaka AI działa?
Powiedz, jakie narzędzia i funkcje AI znasz i w jakich procesach siedzą. Pokażemy, co technicznie jest aktywne w Twoim środowisku i jakie ma uprawnienia; certyfikację zostawiamy Twojej jednostce certyfikującej.
Praktyczna wiedza o IT w Twojej skrzynce
Nowe poradniki o zarządzaniu, bezpieczeństwie i stanowiskach pracy, pisane przez ludzi, którzy wykonują tę pracę. Bez sprzedażowego gadania, a z subskrypcji zrezygnujesz jednym kliknięciem.