
ISO 42001: yapay zeka için bir yönetim sistemi ve ISO 27001 ile yeri
ISO 42001, yapay zeka yönetim sistemi için ilk uluslararası standarttır. Hangi yapay zekayı kullanabileceğinizle değil, bir kuruluşun yapay zeka risklerini nasıl belirlediği, kontrol ettiği ve kanıtlanabilir şekilde takip ettiğiyle ilgilidir. Bu yazı sonrasında gelen soruları ele alıyor: ona ihtiyacınız var mı, bir yapay zeka politikasının ötesinde ne ister ve ISO 27001 sisteminizin ne kadarını yeniden kullanabilirsiniz?
ISO/IEC 42001, yapay zeka için bir yönetim sistemi ister: yapay zeka sistemlerinin risklerini ve etkilerini belirlemek, kontrol etmek, kayda geçirmek ve gözden geçirmek.
Yapay zekayı yalnızca kullanan bir kuruluş için iyi bir politika çoğu zaman yeterlidir; standart en çok yapay zeka geliştiren, sağlayan veya kritik bir süreçte kullananlar için değer taşır.
ISO 27001 belgeniz varsa yapıyı, tetkiki ve doküman kontrolünü yeniden kullanırsınız. Belge, AB Yapay Zeka Yasası’na uyumun kanıtı değildir; biz kimseyi belgelendirmeyiz.
ISO 42001 nedir, ne değildir
ISO/IEC 42001, 2023 sonunda yayımlandı ve bir yapay zeka yönetim sisteminin (İngilizce kısaltmasıyla AIMS) şartlarını tanımlar. Bilgi güvenliği için ISO 27001 gibi, yasaklı kullanımlar veya onaylı araçlar listesi vermez. Hangi yapay zekayı geliştirdiğinizi, sağladığınızı veya kullandığınızı, bunun hangi riskleri ve etkileri olduğunu, bunlara karşı ne yaptığınızı bilmenizi ve bunu kanıtlanabilir şekilde güncel tutmanızı ister.
Ne değildir: bir modelin kalitesi için teknik bir standart, bir ürün etiketi ya da mevzuatın yerine geçen bir şey. Belgelendirilen bir sohbet botu değil, bir kuruluştur.
Standart iki önceki belgeye dayanır: kavramlar ve roller için ISO/IEC 22989, yapay zekada risk yönetimi rehberi olarak ISO/IEC 23894. 42001’in terminolojisini anlamak isteyen için en faydalısı ilkidir.
Geliştirmek, sağlamak veya kullanmak: standart kimin için anlamlı
Baştaki temel soru rolünüzdür. Standart, yapay zeka sağlayan veya kullanan her kuruluş için geçerlidir; ancak emek ve kazanç çok farklıdır.
- Yapay zeka geliştiriyor veya ürününüze yerleştiriyorsunuz. Standardın en çok yeri burasıdır: müşteriler veriyi, modelleri ve değişiklikleri nasıl yönettiğinizi bilmek ister ve bir belge bunu tek seferde yanıtlar.
- İçinde yapay zeka olan bir hizmet sunuyorsunuz. Müşteriler ve satın almacılar aynı soruları sorar. Her ihalede tekrar ediyorsa bir sistem kendini öder.
- Yapay zekayı kritik bir süreçte kullanıyorsunuz. Kişilerin, kredilerin, erişimin veya güvenliğin değerlendirilmesi. Orada etkiler, sistematik yönetimi gerektirecek kadar ağırdır.
- Yapay zekayı ofis aracı olarak kullanıyorsunuz. E-postada bir asistan, toplantı özetleri. O zaman genellikle açık bir yapay zeka politikası ve yapay zeka okuryazarlığı yeterlidir; tam bir yönetim sistemi risklerden ağır kalır.
Emin değilseniz çalışan yapay zekaların envanteriyle başlayın. Ona her durumda ihtiyacınız olacak ve hangi satırda olduğunuzu gösterir.
ISO 42001 bir yapay zeka politikasının ötesinde ne ister
Bir yapay zeka politikası neye izin verildiğini söyler. Standart ise bu politikayı hayata geçiren sistemi ister. Farkı yaratan parçalar:
- Yapay zeka risk değerlendirmesi. Her sistem için: kuruluş ve etkilenen kişiler açısından neyin ters gidebileceği ve bunun olasılığı.
- Yapay zeka sistemi etki değerlendirmesi. ISO 27001’e göre yeni olan budur: kuruluşunuz dışındaki kişi ve gruplar için sonuçlar, örneğin adil olmayan bir sonuç veya kimsenin açıklayamadığı bir karar.
- Uygulanabilirlik beyanı. Ek A’daki hangi kontrolleri uyguladığınız, hangilerini uygulamadığınız ve nedeni.
- Yaşam döngüsü. Bir yapay zeka sisteminin nasıl tasarlandığı, test edildiği, devreye alındığı, değiştirildiği ve kullanımdan kaldırıldığı, her adımda kimin karar verdiği.
- Veri. Bir sistemin çalıştığı veya eğitildiği verinin kaynağı, kalitesi ve uygunluğu.
- İlgili taraflara bilgi. Kullanıcılara ve etkilenenlere sistemin ne yaptığı ve nerede durduğu hakkında ne söylendiği.
- Tedarikçiler. Satın aldığınız yapay zeka da kapsamdadır: tedarikçinin taahhüdü ve sizin kontrol etmeye devam ettiğiniz şeyler.
ISO 27001 ile yan yana: neyi yeniden kullanırsınız, ne yenidir
ISO 42001, ISO 27001 ve ISO 9001 ile aynı bölüm yapısını izler. Belgeli bir ISO 27001 sisteminiz varsa sıfırdan başlamazsınız; ISO 27001 kontrol listemizde işaretlediklerinizin büyük kısmı geçerli kalır.
Yeniden kullandıklarınız:
- Yapı: bağlam, liderlik, planlama, destek, operasyon, değerlendirme, iyileştirme.
- İç tetkik, yönetimin gözden geçirmesi, doküman kontrolü ve düzeltici faaliyetler.
- Erişim, kayıt tutma, tedarikçiler ve olaylarla ilgili güvenlik kontrolleri; bir yapay zeka sistemi de bir bilgi sistemidir.
- Gizlilik, bütünlük ve erişilebilirlikten fazlasını tartabilecek genişlikteyse risk yönteminiz.
Yeni olanlar: kişiler üzerindeki etki değerlendirmesi, modellerin yaşam döngüsü, verinin kalitesi ve kaynağı, açıklanabilirlik ve etkilenenlere bilgi. ISO 27001 bu soruları sormaz ve bunlar çoğu zaman güvenlik sorumlusundan başka kişilerdedir: ürün yönetimi, hukuk, süreç sahibi.
İkisini tek bir tetkik döngüsüyle entegre bir yönetim sisteminde birleştirin. Yan yana iki ayrı sistem, aynı yönetimin gözden geçirmesini iki kez yapmak demektir.
ISO 42001 ve AB Yapay Zeka Yasası: bir belge neyi kanıtlar, neyi kanıtlamaz
AB Yapay Zeka Yasası (AI Act) bir mevzuattır; ISO 42001 gönüllü bir standarttır. Birbirine değerler ama aynı şey değildir. Türkiye’de doğrudan uygulanmaz; ancak AB’ye ürün veya hizmet sunan Türk şirketleri için geçerli olabilir ve AB’li müşteriler bunu sorar.
- Bir belgenin gösterdiği: kuruluşunuzun yapay zeka risklerini, bağımsız bir kuruluşun değerlendirdiği işleyen bir yönetim sistemiyle sistematik olarak yönettiği.
- Göstermediği: belirli bir yapay zeka sisteminin AB Yapay Zeka Yasası’na uygun olduğu. Bu yazının yazıldığı tarihte ISO 42001 bu yasa kapsamında uyumlaştırılmış bir standart değildir; bu yüzden belge bir uygunluk karinesi sağlamaz.
- Yardımcı olduğu yer: yasa, yüksek riskli yapay zeka sağlayıcılarından diğerlerinin yanında risk yönetimi, veri yönetişimi, dokümantasyon ve insan gözetimi ister. İşleyen bir yönetim sistemi bunun için gereken kanıtların ve çalışma biçiminin büyük kısmını sağlar.
Bir yapay zeka sistemi bu yasanın kapsamına girebiliyorsa risk kategorisini ve ilgili yükümlülükleri hukuki olarak değerlendirtin. Bir yönetim sistemi bu soruyu sizin yerinize yanıtlamaz. Kişisel veri işleniyorsa KVKK yükümlülükleri de ayrıca geçerlidir.
Yapay zeka envanterinden tetkike: sıralama
- Envanter. Hangi yapay zeka sistemlerini geliştirdiğiniz, sağladığınız veya kullandığınız; mevcut yazılımlara yerleşik yapay zeka ve çalışanların kendi açtığı özellikler dahil.
- Rol ve kapsam. Her sistem için rolünüz (geliştirici, sağlayıcı, kullanıcı) ve hangi sistemlerin yönetim sistemine girdiği.
- Politika ve sorumluluklar. Üst yönetimin sahiplendiği bir yapay zeka politikası ve her sistem için bir sorumlu.
- Risk ve etki değerlendirmesi. Her sistem için, onu kullananlarla ve etkilerini hissedenlerle birlikte.
- Kontroller ve uygulanabilirlik beyanı. Ne yaptığınız, bilerek neyi yapmadığınız ve nedeni.
- İşletme ve kanıt. Gösterebileceğiniz kayıtlar, değerlendirmeler ve değişikliklerle birkaç aylık işleyiş.
- İç tetkik, yönetimin gözden geçirmesi, belgelendirme tetkiki. Sonuncusu bir belgelendirme kuruluşuyla iki aşamada. Kuruluşun tam olarak bu standart için akredite olduğunu kontrol edin, Türkiye’de TÜRKAK tarafından; yeni bir standartta bu kendiliğinden olmaz.
Emeği belirleyenler: kapsamdaki yapay zeka sistemlerinin sayısı, bunları kendiniz mi geliştirdiğiniz yoksa satın mı aldığınız, ISO 27001 sisteminde zaten neyin olduğu ve yapay zeka kullanımınızın ne kadarının hâlâ bilinmediği.
Nerede ters gider
- Yalnızca kendi ürününüzü kapsayan bir kapsam. E-postanızdaki, CRM’inizdeki ve toplantı yazılımınızdaki yapay zeka da politikanıza girer ve tetkikçi bunu sorar.
- Bir form olarak etki değerlendirmesi. BT dışından kimse yazımına katılmazsa tam da önemli olan sonuçlar eksik kalır.
- Tedarikçilere sözle güvenmek. “Verilerinizle model eğitmiyoruz” bir cümledir; sözleşmenin neresinde yazdığını ve bunu nasıl kontrol ettiğinizi sorun.
- Bir anlık görüntü. Yapay zeka özellikleri yazılım güncellemeleriyle istenmeden gelir. Düzenli bir gözden geçirme olmadan envanter bir çeyrekte eskir.
- Belgeyi uyumla karıştırmak. AB Yapay Zeka Yasası’na uyması gereken, bunu ayrıca kanıtlamak zorundadır.
İşimizin bittiği yer
Yaptıklarımız. Teknik tarafı üstleniyoruz: ortamınızda hangi yapay zekanın çalıştığını ve hangi erişimlere sahip olduğunu ortaya çıkarmak, Microsoft 365 Copilot gibi asistanları mevcut yetkiler içinde kurmak, hassas verileri etiketleyip korumak, kayıt tutmayı ve erişim yönetimini düzene sokmak, ve bir tetkikçinin güvenlik kontrolleri için istediği kanıtları yönetimimizden sunmak. Biz de ISO 9001, ISO/IEC 27001, ISO 14001 ve Kiwa NEN 4400-1 kapsamında çalışıyoruz.
Yapmadıklarımız. Belgelendirme kuruluşu ya da tetkikçi değiliz. ISO 42001 belgesi vermeyiz, standarda uyup uymadığınızı söylemeyiz ve bağımsız tetkik yapmayız. Hukukçu da değiliz: bir yapay zeka sisteminin AB Yapay Zeka Yasası kapsamına girip girmediği ve hangi yükümlülüklerin geçerli olduğu hukuki bir değerlendirme konusudur. Kişiler üzerindeki etki değerlendirmesini kendi süreç sahiplerinizle yazarsınız; biz bunun için teknik bilgileri sağlarız.
Bu konuda bize sorulanlar
ISO 42001 masaya geldiğinde en sık sorulanlar.
ISO 42001 nedir?
ISO/IEC 42001, bir yapay zeka yönetim sisteminin şartlarını belirleyen uluslararası standarttır. Bir kuruluştan hangi yapay zekayı geliştirdiğini, sağladığını veya kullandığını, bunun hangi riskleri ve etkileri olduğunu ve bunları nasıl kontrol edip güncel tuttuğunu belirlemesini ister. Kuruluşlar bu standarda göre belgelendirilebilir.
ISO 42001 zorunlu mu?
Hayır, ISO 42001 gönüllü bir standarttır. Ancak müşteriler ve ihaleler, yapay zeka geliştiren veya hizmetinde kullanan tedarikçilerden bunu giderek daha sık ister. Yapay zekayla ilgili yasal yükümlülükler standarttan değil, AB Yapay Zeka Yasası gibi mevzuattan gelir.
ISO 42001 ile ISO 27001 arasındaki fark nedir?
ISO 27001 bilgi güvenliğiyle, ISO 42001 ise yapay zekanın sorumlu şekilde geliştirilmesi ve kullanılmasıyla ilgilidir; kuruluş dışındaki kişilere etkisi, veri kalitesi ve modellerin yaşam döngüsü dahil. Aynı bölüm yapısını paylaştıkları için tek bir yönetim sisteminde birleştirilebilirler.
ISO 42001 belgesi AB Yapay Zeka Yasası’na uyduğumuzu kanıtlar mı?
Hayır. Belge, yapay zeka risklerini sistematik olarak yönettiğinizi gösterir; ancak belirli bir yapay zeka sisteminin yasaya uygun olduğunu söylemez. Bu yazının yazıldığı tarihte ISO 42001 bu yasa kapsamında uyumlaştırılmış bir standart değildir. İşleyen bir yönetim sistemi yine de yasanın istediği kanıtlara yardımcı olur.
Bize ISO 42001 belgesi alabilir misiniz?
Hayır. Belgeyi yalnızca akredite bir belgelendirme kuruluşu verir; biz belgelendirme kuruluşu ya da tetkikçi değiliz. Yaptığımız, teknik tarafı düzene sokmaktır: hangi yapay zekanın çalıştığının görünürlüğü, erişim yetkileri, etiketler ve kayıt tutma, ve bunların yönetimimizden gelen kanıtları.
Devamını okuyun
Politika, altındaki güvenlik ve yapay zekanın kendisi.
Önce hangi yapay zekanın çalıştığını çıkaralım mı?
Bildiğiniz yapay zeka araçlarını ve özelliklerini, hangi süreçlerde olduklarını anlatın. Ortamınızda teknik olarak neyin aktif olduğunu ve hangi erişimlere sahip olduğunu gösterelim; belgelendirmeyi belgelendirme kuruluşunuza bırakıyoruz.
Gelen kutunuza pratik BT bilgisi
Yönetim, güvenlik ve çalışma alanı üzerine yeni rehberler; işi yapanlar tarafından yazılıyor. Satış dili yok, abonelikten tek tıkla çıkabilirsiniz.