
Shadow AI: çalışanlarınızın zaten kullandığı yapay zekâ ve onu nasıl görürsünüz
Shadow AI (gölge yapay zekâ), çalışanlarınızın kimse onaylamadan zaten kullandığı yapay zekâdır: tarayıcı sekmesindeki bir sohbet botu, her sayfayı özetleyen bir uzantı, toplantılara katılıp not tutan bir asistan. Neyin kullanıldığını bilmeden politika yazmanın faydası azdır. Bu yazı o ilk adımı ele alıyor: var olanı, bir sorguya dönüştürmeden görünür kılmak.
Shadow AI kurulum gerektirmez: bir tarayıcı sekmesi veya uzantı yeterlidir. Bu yüzden yazılım envanterinde görünmez.
Beş kaynakla görünür kılınır: ağ trafiği, bulut uygulama keşfi, uygulama izinleri, tarayıcı uzantıları ve masraf beyanları. Bir de doğrudan sorarak.
Bulduklarınızı markaya göre değil, içine giren verilere göre sınıflandırın. Neye izin verileceğine kurumunuz karar verir.
Shadow AI nedir ve neden zaten kullanılıyor?
Shadow AI bir tür gölge BT’dir, ancak işi zorlaştıran bir farkı vardır: hiçbir şey kurulmaz. Bir çalışan tarayıcıda bir sohbet botu açar, bir teklifi veya müşteri e-postasını yapıştırır ve bir dakika içinde daha iyi bir metin elde eder. Kimse bir şey satın almamıştır ve yazılım envanterinde hiçbir şey görünmez.
Bu, tüm gölge BT ile aynı nedenle olur: iş daha hızlı ilerler, onaylı alternatif ya yoktur ya da daha zahmetlidir. Bu itaatsizlik değil, insanların neye ihtiyaç duyduğuna dair bir işarettir.
Bu yüzden risk araçta değil, içine girende yatar. Müşterilerin kişisel verileri, bir sözleşme, kaynak kodu veya bir personel dosyasının, anlaşmanız olmayan bir sağlayıcıdaki kişisel bir hesaba girmesi asıl sorundur. Türkiye’de bu, KVKK kapsamında bir veri aktarımı sorusu da doğurabilir.
Hangi yapay zekânın kullanıldığını nerede görürsünüz?
Her şeyi gösteren tek bir yer yoktur, ancak beş kaynak birlikte iyi bir tablo verir. Çoğuna zaten sahipsiniz:
- Ağ trafiği. Güvenlik duvarı, DNS filtresi veya web filtresi kayıtları, ofisten ve yönetilen bilgisayarlardan hangi yapay zekâ hizmetlerine ne sıklıkla erişildiğini gösterir.
- Bulut uygulama keşfi. Microsoft Defender for Cloud Apps gibi güvenlik çözümleri, yapay zekâ hizmetleri dahil bilinen bulut uygulamalarına giden trafiği tanır ve her birine bir risk değerlendirmesi verir.
- Uygulama izinleri. Microsoft Entra ID’de veya Google Workspace yönetim konsolunda, çalışanların hangi uygulamalara e-posta, takvim veya dosyalarına erişim verdiği görünür. Tek tıkla bağlanan not tutucular ve yazım asistanları burada ortaya çıkar.
- Tarayıcı uzantıları. Yönetilen cihazlarda yüklü uzantıları listeleyebilirsiniz. Her sayfayı okuyan yapay zekâ uzantıları hemen göze çarpar.
- Masraf beyanları ve kart ekstreleri. Birinin kendi ödeyip masraf olarak beyan ettiği bir abonelik, arkasında anlaşma olmayan iş amaçlı bir yapay zekâ aracıdır.
Görmediğiniz şeye dikkat edin: kişisel telefon veya ev bilgisayarındaki kullanım. Bu yüzden sonraki adım teknik kadar önemlidir.
Sorguya dönüştürmeden sormak
Çalışanların ne kullandığını öğrenmenin en hızlı yolu onlara sormaktır. Bu, yalnızca cevabın şimdiye kadar olanlar için bir sonucu olmadığında işe yarar. Bunu baştan söyleyin ve sözünüzde durun.
- Yalnızca aracı değil, amacı sorun. “Ne için kullanıyorsunuz?” sorusu, onaylı bir alternatifin hangi ihtiyacı karşılaması gerektiğini gösterir.
- Hangi verilerin girdiğini sorun. İsimsiz metinler, müşteri verileri, iç belgeler, kod. Risk hizmetin adından çok buna bağlıdır.
- Kişisel mi kurumsal mı hesap olduğunu sorun. Birçok hizmette bu, sağlayıcının girilen verilerle ne yapabileceğini değiştirir.
- Mümkünse kısa ve anonim tutun. Beş soru yirmi sorudan daha dürüst cevaplar getirir.
Listeyle ne yapılır: markaya göre değil, veriye göre sınıflandırma
Bir yapay zekâ araçları listesi ancak sınıflandırıldığında işe yarar. Bunu verilere ne olduğuna göre yapın, çünkü aynı hizmet kurumsal hesapla uygun, kişisel hesapla uygunsuz olabilir.
- İzin verin. Kurumsal anlaşmanız olan, girdileri modeli eğitmek için kullanmayan ve verilerin nerede tutulduğunu bildiğiniz bir hizmet.
- Koşullu izin verin. Yalnızca kurumsal hesapla, kişisel veri olmadan veya kısa bir bilgilendirmeden sonra.
- Değiştirin. Anlaşması olmayan ama hassas verilerin girdiği bir hizmet. Alternatif hazır olana kadar engellemeyin, aksi halde kullanım kişisel telefona kayar.
Hizmet başına dört soru yeterlidir: girdiler eğitim için kullanılıyor mu, veriler nerede saklanıyor, sağlayıcıda kim erişebiliyor ve kişisel veri varsa bir veri işleme sözleşmesi var mı?
En zoru: sürekli okuyan ve dinleyen yapay zekâ
Birinin metin yapıştırdığı bir sohbet botu görünür ve sınırlıdır: yalnızca giren çıkar. Daha zor olanlar sürekli erişim verilmiş araçlardır.
- Not tutan asistanlar; takvimdeki her toplantıya, haberi olmayan müşterilerle yapılanlar dahil, kendilerini ekler.
- Yazım ve e-posta asistanları; tüm posta kutusunu okuma iznine sahiptir.
- Tarayıcı uzantıları; iç sistemler dahil açılan her sayfanın içeriğini okur.
Bu erişim, çalışan aracı unuttuktan çok sonra, bazen ayrıldıktan sonra bile devam eder. Kimsenin açıklayamadığı izinleri geri alın ve çalışanların yalnızca doğrulanmış yayıncıların uygulamalarını ya da yalnızca yönetici onayıyla bağlayabilmesini ayarlayın. Tek bir ayar, büyük etki.
Bir kez temizlemek yerine görünür tutmak
Bir envanter birkaç ayda eskir; her hafta yeni yapay zekâ hizmetleri ve zaten kullandığınız yazılımlarda yeni yapay zekâ işlevleri çıkar. Yardımcı olan sabit bir düzendir:
- Aylık bir kontrol; trafikteki yeni uygulamalara ve yeni uygulama izinlerine.
- Aynı kolaylıkta onaylı bir alternatif. Resmî yol daha zahmetli olduğu sürece diğeri kazanır.
- Yeni bir araç talep etmek için bir yer, hızlı bir cevapla.
- Role göre bilgilendirme. AB’deki müşterilere hizmet veren kurumlar için, Şubat 2025’ten bu yana Avrupa Yapay Zekâ Yasası yeterli yapay zekâ okuryazarlığı istiyor. Bir politikada neler olması gerektiğini yapay zekâ okuryazarlığı ve YZ politikası yazımızda anlatıyoruz.
İşimizin bittiği yer
Yaptıklarımız. Trafikte, uygulama izinlerinde ve uzantılarda hangi yapay zekâ hizmetlerinin bulunduğunu görünür kılarız, kimin uygulama bağlayabileceğini sınırlarız, açıklanamayan erişimleri geri alırız ve kendi tenant’ınız içinde kurumsal bir yapay zekâ ortamı gibi onaylı bir alternatif kurarız.
Yapmadıklarımız. Çalışanların bir sohbet botuna ne yazdığını okumayız ve tek tek çalışanları değerlendirmeyiz. Hukukçu değiliz: belirli bir kullanımın KVKK’ya veya AB Yapay Zekâ Yasası’na uygun olup olmadığını ve çalışanların izlenmesine hangi kuralların uygulandığını hukuk danışmanınız değerlendirir. Biz bir şeyi açmadan önce bu kararı verin.
Bize sorulan sorular
En sık gelen beş soru.
Shadow AI nedir?
Shadow AI, çalışanların kurumun onayı veya bilgisi olmadan yapay zekâ araçları kullanmasıdır: tarayıcıdaki bir sohbet botu, bir yapay zekâ uzantısı veya takvime bağlı bir not tutucu. Risk esas olarak, anlaşma olmayan bir sağlayıcıya giren müşteri verileri veya iç belgeler gibi verilerdedir.
Shadow AI ile gölge BT arasındaki fark nedir?
Shadow AI bir tür gölge BT’dir, ancak genellikle hiçbir şey kurulmaz. Bir tarayıcı sekmesi yeterlidir, bu yüzden yazılım envanterinde görünmez. Ayrıca mesele bir cihaz veya programdan çok, üçüncü bir tarafa ulaşan verilerdir.
Çalışanların hangi yapay zekâ araçlarını kullandığı nasıl tespit edilir?
Güvenlik duvarı veya web filtresi kayıtlarını, güvenlik çözümünüzdeki bulut uygulama keşfini, Entra ID veya Google Workspace’teki uygulama izinlerini, yönetilen cihazlardaki uzantıları ve masraf beyanlarını birleştirin. Ardından, olan bitene sonuç bağlamadan çalışanlara sorun.
ChatGPT ve diğer sohbet botları yasaklanmalı mı?
Alternatifi olmayan bir yasak, kullanımı genellikle artık göremediğiniz kişisel telefona kaydırır. Daha iyisi kurumsal koşulları olan onaylı bir hizmet, hangi verilerin girebileceğine dair açık kurallar ve geri kalanı ancak alternatif hazır olduğunda engellemektir.
Çalışanların sohbet botuna yazdıklarını okuyor musunuz?
Hayır. Hangi hizmetlerin kullanıldığını ve hangi uygulamaların erişimi olduğunu gösteririz, tek tek çalışanların ne girdiğini değil. Çalışanların izlenmesine ilişkin kuralları hukuk danışmanınız değerlendirir.
Devamını okuyun
Shadow AI’nin bağlandığı konular.
Kurumunuzda hangi yapay zekânın zaten kullanıldığını bilmek ister misiniz?
Trafiği, uygulama izinlerini ve uzantıları yan yana koyar, hangi yapay zekâ hizmetlerinin çalıştığını ve oraya hangi verilerin gidebileceğini gösteririz. Neye izin verileceğine siz karar verirsiniz.
Gelen kutunuza pratik BT bilgisi
Yönetim, güvenlik ve çalışma alanı üzerine yeni rehberler; işi yapanlar tarafından yazılıyor. Satış dili yok, abonelikten tek tıkla çıkabilirsiniz.