
ISO 42001: ein Managementsystem für KI, und wie es neben ISO 27001 passt
ISO 42001 ist die erste internationale Norm für ein Managementsystem für künstliche Intelligenz. Sie regelt nicht, welche KI Sie nutzen dürfen, sondern wie ein Unternehmen KI-Risiken erkennt, beherrscht und nachweisbar verfolgt. Hier geht es um die Fragen danach: Brauchen Sie sie, was verlangt sie über eine KI-Richtlinie hinaus, und wie viel Ihres ISO-27001-Systems können Sie weiterverwenden?
ISO/IEC 42001 verlangt ein Managementsystem für KI: Risiken und Auswirkungen von KI-Systemen erkennen, beherrschen, dokumentieren und regelmäßig überprüfen.
Für ein Unternehmen, das KI nur nutzt, reicht oft eine gute KI-Richtlinie; die Norm lohnt sich vor allem für alle, die KI entwickeln, anbieten oder in einem kritischen Prozess einsetzen.
Mit ISO 27001 übernehmen Sie Struktur, Audit und Dokumentenlenkung. Ein Zertifikat beweist nicht die Konformität mit dem AI Act, und wir zertifizieren niemanden.
Was ISO 42001 ist, und was nicht
ISO/IEC 42001 erschien Ende 2023 und legt Anforderungen an ein KI-Managementsystem fest, englisch abgekürzt AIMS. Wie ISO 27001 für die Informationssicherheit enthält sie keine Liste verbotener Anwendungen oder freigegebener Tools. Sie verlangt, dass Sie wissen, welche KI Sie entwickeln, anbieten oder nutzen, welche Risiken und Auswirkungen damit verbunden sind, was Sie dagegen tun, und dass Sie das nachweisbar aktuell halten.
Was sie nicht ist: eine technische Norm für die Qualität eines Modells, ein Produktsiegel oder ein Ersatz für Gesetze. Zertifiziert wird ein Unternehmen, kein Chatbot.
Die Norm stützt sich auf zwei ältere Dokumente: ISO/IEC 22989 für Begriffe und Rollen und ISO/IEC 23894 als Leitfaden für KI-Risikomanagement. Wer die Begriffswelt von 42001 verstehen will, hat vom ersten den größten Nutzen.
Entwickeln, anbieten oder nutzen: für wen sich die Norm lohnt
Die wichtigste Frage vorab ist Ihre Rolle. Die Norm gilt für jedes Unternehmen, das KI bereitstellt oder nutzt, aber Aufwand und Ertrag unterscheiden sich stark.
- Sie entwickeln KI oder bauen sie in Ihr Produkt ein. Hier passt die Norm am besten: Kunden wollen wissen, wie Sie Daten, Modelle und Änderungen steuern, und ein Zertifikat beantwortet das auf einmal.
- Sie erbringen eine Leistung mit KI darin. Kunden und Einkauf stellen dann dieselben Fragen. Kehren sie in jeder Ausschreibung wieder, lohnt sich ein System.
- Sie setzen KI in einem kritischen Prozess ein. Bewertung von Personen, Kredite, Zugang oder Sicherheit. Dort wiegen die Auswirkungen schwer genug, um sie systematisch zu steuern.
- Sie nutzen KI als Bürowerkzeug. Ein Assistent im E-Mail-Programm, Besprechungszusammenfassungen. Dann genügen meist eine klare KI-Richtlinie und KI-Kompetenz, und ein vollständiges Managementsystem wiegt schwerer als die Risiken.
Im Zweifel beginnen Sie mit einer Bestandsaufnahme dessen, was läuft. Die brauchen Sie ohnehin, und sie zeigt, in welcher Zeile Sie stehen.
Was ISO 42001 über eine KI-Richtlinie hinaus verlangt
Eine KI-Richtlinie sagt, was erlaubt ist. Die Norm verlangt das System, das diese Richtlinie umsetzt. Die Teile, die den Unterschied machen:
- Eine KI-Risikobeurteilung. Je System: was schiefgehen kann, für das Unternehmen und für die Betroffenen, und wie wahrscheinlich das ist.
- Eine Folgenabschätzung für das KI-System. Das ist neu gegenüber ISO 27001: die Auswirkungen auf Personen und Gruppen außerhalb Ihres Unternehmens, etwa ein unfaires Ergebnis oder eine Entscheidung, die niemand erklären kann.
- Eine Erklärung zur Anwendbarkeit. Welche Maßnahmen aus Anhang A Sie anwenden, welche nicht, und warum.
- Der Lebenszyklus. Wie ein KI-System entworfen, getestet, in Betrieb genommen, geändert und außer Betrieb genommen wird, und wer bei jedem Schritt entscheidet.
- Daten. Herkunft, Qualität und Eignung der Daten, mit denen ein System arbeitet oder trainiert wurde.
- Information für interessierte Parteien. Was Nutzer und Betroffene darüber erfahren, was das System tut und wo es aufhört.
- Lieferanten. Zugekaufte KI gehört dazu: was der Anbieter zusagt und was Sie selbst weiter steuern.
Neben ISO 27001: was Sie übernehmen und was neu ist
ISO 42001 folgt derselben Kapitelstruktur wie ISO 27001 und ISO 9001. Mit einem zertifizierten ISO-27001-System fangen Sie nicht bei null an; vieles, was Sie in unserer ISO-27001-Checkliste abgehakt haben, gilt weiter.
Was Sie übernehmen:
- Den Aufbau: Kontext, Führung, Planung, Unterstützung, Betrieb, Bewertung, Verbesserung.
- Internes Audit, Managementbewertung, Dokumentenlenkung und Korrekturmaßnahmen.
- Die Sicherheitsmaßnahmen zu Zugriff, Protokollierung, Lieferanten und Vorfällen; ein KI-System ist auch ein Informationssystem.
- Ihre Risikomethode, sofern sie breit genug ist, um mehr als Vertraulichkeit, Integrität und Verfügbarkeit abzuwägen.
Was neu hinzukommt: die Folgenabschätzung für Menschen, der Lebenszyklus von Modellen, Qualität und Herkunft von Daten, Erklärbarkeit und Information der Betroffenen. Diese Fragen stellt ISO 27001 nicht, und sie liegen oft bei anderen Personen als dem Informationssicherheitsbeauftragten: Produktmanagement, Rechtsabteilung, Prozessverantwortliche.
Führen Sie beide in einem integrierten Managementsystem mit einem Auditzyklus zusammen. Zwei getrennte Systeme bedeuten zweimal dieselbe Managementbewertung.
ISO 42001 und der AI Act: was ein Zertifikat beweist und was nicht
Die europäische KI-Verordnung (AI Act) ist Gesetz; ISO 42001 ist eine freiwillige Norm. Sie berühren sich, sind aber nicht dasselbe.
- Was ein Zertifikat zeigt: dass Ihr Unternehmen KI-Risiken systematisch steuert, mit einem funktionierenden Managementsystem, das eine unabhängige Stelle bewertet hat.
- Was es nicht zeigt: dass ein bestimmtes KI-System den AI Act erfüllt. Zum Zeitpunkt dieses Beitrags ist ISO 42001 keine harmonisierte Norm unter dieser Verordnung, ein Zertifikat begründet also keine Konformitätsvermutung.
- Wo es hilft: Der AI Act verlangt von Anbietern von Hochrisiko-KI unter anderem Risikomanagement, Daten-Governance, Dokumentation und menschliche Aufsicht. Ein funktionierendes AIMS liefert einen großen Teil der Nachweise und der Arbeitsweise, die Sie dafür brauchen.
Kann ein KI-System unter den AI Act fallen, lassen Sie seine Risikokategorie und die damit verbundenen Pflichten rechtlich prüfen. Diese Frage beantwortet Ihnen kein Managementsystem.
Von der KI-Bestandsaufnahme zum Audit: die Reihenfolge
- Bestandsaufnahme. Welche KI-Systeme Sie entwickeln, anbieten oder nutzen, einschließlich KI in bestehender Software und Funktionen, die Beschäftigte selbst eingeschaltet haben.
- Rolle und Geltungsbereich. Je System Ihre Rolle (Entwickler, Anbieter, Nutzer) und welche Systeme in das Managementsystem fallen.
- Richtlinie und Verantwortlichkeiten. Eine KI-Richtlinie, hinter der die Geschäftsleitung steht, und ein Verantwortlicher je System.
- Risikobeurteilung und Folgenabschätzung. Je System, mit denen, die es nutzen, und denen, die seine Wirkung spüren.
- Maßnahmen und Erklärung zur Anwendbarkeit. Was Sie tun, was Sie bewusst nicht tun, und warum.
- Betreiben und nachweisen. Einige Monate Betrieb mit Aufzeichnungen, Bewertungen und Änderungen, die Sie vorzeigen können.
- Internes Audit, Managementbewertung, Zertifizierungsaudit. Letzteres in zwei Stufen bei einer Zertifizierungsstelle. Prüfen Sie, ob die Stelle für genau diese Norm akkreditiert ist, in Deutschland durch die DAkkS; bei einer neuen Norm ist das nicht selbstverständlich.
Was den Aufwand bestimmt: wie viele KI-Systeme im Geltungsbereich liegen, ob Sie sie selbst entwickeln oder zukaufen, was schon in einem ISO-27001-System steht und wie viel Ihrer KI-Nutzung noch unbekannt ist.
Wo es schiefgeht
- Ein Geltungsbereich, der nur das eigene Produkt abdeckt. Die KI in Ihrem E-Mail-Programm, Ihrem CRM und Ihrer Besprechungssoftware fällt ebenfalls unter Ihre Richtlinie, und der Auditor fragt danach.
- Die Folgenabschätzung als Formular. Schreibt niemand außerhalb der IT daran mit, fehlen genau die Auswirkungen, um die es geht.
- Anbietern aufs Wort glauben. „Wir trainieren nicht mit Ihren Daten“ ist ein Satz; fragen Sie, wo das im Vertrag steht und wie Sie es prüfen.
- Eine Momentaufnahme. KI-Funktionen kommen ungefragt mit Software-Updates. Ohne feste Überprüfung ist die Bestandsaufnahme nach einem Quartal veraltet.
- Zertifikat und Konformität verwechseln. Wer den AI Act einhalten muss, muss das gesondert nachweisen.
Wo unsere Arbeit aufhört
Was wir tun. Wir übernehmen die technische Seite: erfassen, welche KI in Ihrer Umgebung läuft und welche Zugriffe sie hat, KI-Assistenten wie Microsoft 365 Copilot innerhalb der bestehenden Berechtigungen einrichten, sensible Daten kennzeichnen und schützen, Protokollierung und Zugriffsverwaltung in Ordnung bringen und die Nachweise aus unserem Betrieb liefern, die ein Auditor zu den Sicherheitsmaßnahmen verlangt. Wir arbeiten selbst nach ISO 9001, ISO/IEC 27001, ISO 14001 und Kiwa NEN 4400-1.
Was wir nicht tun. Wir sind keine Zertifizierungsstelle und kein Auditor. Wir stellen kein ISO-42001-Zertifikat aus, sagen Ihnen nicht, ob Sie die Norm erfüllen, und führen kein unabhängiges Audit durch. Wir sind auch keine Juristen: Ob ein KI-System unter den AI Act fällt und welche Pflichten gelten, klärt eine rechtliche Prüfung. Die Folgenabschätzung für Menschen erstellen Sie mit Ihren eigenen Prozessverantwortlichen; wir liefern die technischen Fakten dazu.
Fragen, die wir dazu bekommen
Die häufigsten, wenn ISO 42001 auf dem Tisch liegt.
Was ist ISO 42001?
ISO/IEC 42001 ist die internationale Norm mit Anforderungen an ein Managementsystem für künstliche Intelligenz (AIMS). Sie verlangt, dass ein Unternehmen festlegt, welche KI es entwickelt, anbietet oder nutzt, welche Risiken und Auswirkungen damit verbunden sind und wie es sie steuert und aktuell hält. Unternehmen können sich danach zertifizieren lassen.
Ist ISO 42001 Pflicht?
Nein, ISO 42001 ist eine freiwillige Norm. Kunden und Ausschreibungen verlangen sie aber zunehmend von Anbietern, die KI entwickeln oder in ihrer Leistung einsetzen. Die gesetzlichen Pflichten rund um KI kommen aus dem AI Act, nicht aus der Norm.
Was ist der Unterschied zwischen ISO 42001 und ISO 27001?
ISO 27001 betrifft die Informationssicherheit, ISO 42001 die verantwortungsvolle Entwicklung und Nutzung von KI, einschließlich der Auswirkungen auf Menschen außerhalb des Unternehmens, der Datenqualität und des Lebenszyklus von Modellen. Beide haben dieselbe Kapitelstruktur und lassen sich in einem Managementsystem zusammenführen.
Beweist ein ISO-42001-Zertifikat, dass wir den AI Act erfüllen?
Nein. Ein Zertifikat zeigt, dass Sie KI-Risiken systematisch steuern, aber nicht, dass ein bestimmtes KI-System den AI Act erfüllt. Zum Zeitpunkt dieses Beitrags ist ISO 42001 keine harmonisierte Norm unter dieser Verordnung. Ein funktionierendes Managementsystem hilft aber bei den Nachweisen, die der AI Act verlangt.
Können Sie uns nach ISO 42001 zertifizieren?
Nein. Ein Zertifikat stellt nur eine akkreditierte Zertifizierungsstelle aus, und wir sind weder Zertifizierungsstelle noch Auditor. Was wir tun, ist die technische Seite in Ordnung zu bringen: Überblick, welche KI läuft, Zugriffsrechte, Kennzeichnung und Protokollierung, und die Nachweise dazu aus unserem Betrieb.
Weiterlesen
Die Richtlinie, die Sicherheit darunter und die KI selbst.
Sollen wir zuerst erfassen, welche KI läuft?
Sagen Sie uns, welche KI-Tools und -Funktionen Sie kennen und in welchen Prozessen sie stecken. Wir zeigen Ihnen, was in Ihrer Umgebung technisch aktiv ist und welche Zugriffe es hat; die Zertifizierung überlassen wir Ihrer Zertifizierungsstelle.
Praktisches IT-Wissen in Ihrem Postfach
Neue Leitfäden zu Verwaltung, Sicherheit und Arbeitsplatz, geschrieben von den Menschen, die die Arbeit machen. Kein Verkaufsgerede, und Sie können sich mit einem Klick abmelden.