
Shadow AI: čo vaši ľudia už používajú a ako to zistiť
Shadow AI je umelá inteligencia, ktorú zamestnanci už používajú bez toho, aby ju niekto schválil: chatbot v karte prehliadača, rozšírenie, ktoré zhrnie každú stránku, nástroj na zápisy, ktorý sa pripája na porady. Písanie smernice nepomôže, kým neviete, čo beží. Tento článok je o prvom kroku: zviditeľniť, čo tam už je, a nespraviť z toho výsluch.
Shadow AI nevyžaduje inštaláciu: stačí karta prehliadača alebo rozšírenie. Preto sa nikdy neobjaví v zozname softvéru.
Zviditeľníte ju z piatich zdrojov: sieťová prevádzka, objavovanie cloudových aplikácií, súhlasy aplikácií, rozšírenia prehliadača a nákladové doklady. A jednoduchou otázkou.
Nájdené nástroje triedite podľa toho, aké údaje do nich idú, nie podľa značky. Čo je dovolené, je rozhodnutie vašej organizácie.
Shadow AI: čo to je a prečo už beží
Shadow AI je forma shadow IT s jedným rozdielom, ktorý ju robí ťažšou: nič sa nemusí inštalovať. Niekto otvorí chatbot v prehliadači, vloží doň ponuku alebo e-mail od zákazníka a za minútu má lepší text. Nič sa nekúpilo a v inventári softvéru sa nič neobjaví.
Deje sa to z rovnakého dôvodu ako všetko shadow IT: práca ide rýchlejšie a schválená alternatíva buď neexistuje, alebo je neohrabanejšia. Nie je to neposlušnosť; je to informácia o tom, čo ľudia potrebujú.
Riziko preto nie je v nástroji, ale v tom, čo do neho ide. Osobné údaje zákazníkov, zmluva, zdrojový kód alebo personálny spis v osobnom účte u poskytovateľa, s ktorým nemáte zmluvu: to je skutočný problém.
Kde zistíte, aká AI sa používa
Žiadne jedno miesto neukáže všetko, ale päť zdrojov spolu dá dobrý obraz. Väčšinu z nich pravdepodobne už máte:
- Sieťová prevádzka. Logy z firewallu, DNS filtra alebo webového filtra ukážu, ktoré AI služby sa navštevujú z kancelárie a zo spravovaných notebookov a ako často.
- Objavovanie cloudových aplikácií. Bezpečnostné balíky ako Microsoft Defender for Cloud Apps rozpoznajú prevádzku na známe cloudové aplikácie vrátane AI služieb a každej dajú hodnotenie rizika.
- Súhlasy aplikácií. Microsoft Entra ID alebo administračná konzola Google Workspace zobrazí, ktorým aplikáciám zamestnanci dali prístup k pošte, kalendáru alebo súborom. Práve tam sa objavia AI zapisovatelia a asistenti písania pripojení jedným kliknutím.
- Rozšírenia prehliadača. Na spravovaných zariadeniach môžete vypísať nainštalované rozšírenia. AI rozšírenia, ktoré čítajú každú stránku, hneď vyniknú.
- Nákladové doklady a výpisy z kariet. Predplatné, ktoré si niekto platí a nechá preplatiť, je AI nástroj používaný vo firme bez zmluvy.
Všimnite si, čo nevidíte: používanie na osobnom telefóne alebo domácom notebooku. Preto je ďalší krok rovnako dôležitý ako technika.
Ako sa pýtať, aby to nebol výsluch
Najrýchlejšie sa dozviete, čo zamestnanci používajú, ak sa ich opýtate. Funguje to len vtedy, ak odpoveď nemá následky za to, čo sa dosiaľ stalo. Povedzte to vopred a myslite to vážne.
- Pýtajte sa na účel, nielen na nástroj. „Na čo to používate?“ prezradí, akú potrebu musí pokryť schválená alternatíva.
- Pýtajte sa, aké údaje do nástroja idú. Text bez mien, údaje zákazníkov, interné dokumenty, kód. Toto určuje riziko viac než názov služby.
- Pýtajte sa, či ide o osobný alebo firemný účet. Pri mnohých službách to mení, čo smie poskytovateľ so vstupom robiť.
- Buďte stručný a kde sa dá, anonymný. Päť otázok prinesie úprimnejšie odpovede než dvadsať.
Odpovede porovnajte s tým, čo ukázala technika. Kde sa líšia, rozdiel zvyčajne tvorí používanie mimo kancelárie.
Čo so zoznamom: triediť podľa údajov, nie podľa značky
Zoznam AI nástrojov je užitočný, až keď ho roztriedite. Robte to podľa toho, čo sa deje s údajmi, pretože tá istá služba môže byť v poriadku s firemným účtom a nie s osobným.
- Povoliť. Služba, s ktorou máte firemnú zmluvu, kde sa vstup nepoužíva na trénovanie modelu a viete, kde sú údaje uložené.
- Povoliť s podmienkami. Iba firemný účet, bez osobných údajov alebo až po krátkom zaškolení.
- Nahradiť. Služba bez zmluvy, do ktorej idú citlivé údaje. Blokujte ju až vtedy, keď je pripravená alternatíva, inak sa používanie presunie na osobné telefóny.
Pri každej službe stačia štyri otázky: používa sa vstup na trénovanie, kde sa údaje ukladajú, kto u poskytovateľa k nim má prístup a existuje zmluva o spracúvaní osobných údajov, ak ide o osobné údaje.
Najťažší druh: AI, ktorá číta a počúva
Chatbot, do ktorého niekto vloží text, je viditeľný a obmedzený: von sa dostane len to, čo sa doň vložilo. Ťažšie sú nástroje, ktoré dostali trvalý prístup.
- AI zapisovatelia, ktorí sa pridávajú na každú poradu z kalendára, aj na porady so zákazníkmi, ktorí o tom nevedia.
- Asistenti písania a e-mailu s právom čítať celú schránku.
- Rozšírenia prehliadača, ktoré čítajú obsah každej otvorenej stránky vrátane interných systémov.
Tento prístup pretrváva dlho potom, čo zamestnanec na nástroj zabudol, niekedy aj potom, čo odišiel. Zrušte súhlasy, ktoré nikto nevie vysvetliť, a nastavte, aby zamestnanci mohli pripájať aplikácie len od overených vydavateľov alebo len po schválení administrátorom. Je to jedno nastavenie s veľkým účinkom.
Udržať viditeľnosť namiesto jednorazového upratovania
Inventár je za pár mesiacov zastaraný; nové AI služby vznikajú každý týždeň a nové funkcie AI prichádzajú do softvéru, ktorý už používate. Pomáha pevný rytmus:
- Mesačný pohľad na nové aplikácie v prevádzke a nové súhlasy aplikácií.
- Schválená alternatíva, ktorá je rovnako jednoduchá. Kým je oficiálna cesta namáhavejšia, vyhráva tá druhá.
- Miesto na žiadosť o nový nástroj s rýchlou odpoveďou. Žiadosť, ktorá leží tri týždne, je pozvánkou vybaviť si to samostatne.
- Zaškolenie podľa rolí. Od februára 2025 nariadenie EÚ o umelej inteligencii (AI Act) požaduje, aby organizácie zabezpečili dostatočnú gramotnosť v oblasti AI u tých, ktorí s ňou pracujú.
Kde sa naša práca končí
Čo robíme. Zviditeľníme, ktoré AI služby sa objavujú v prevádzke, súhlasoch aplikácií a rozšíreniach, obmedzíme, kto môže pripájať aplikácie, zrušíme nevysvetliteľný prístup a zavedieme schválenú alternatívu, napríklad firemné AI prostredie vo vašom vlastnom tenante.
Čo nerobíme. Nečítame, čo zamestnanci píšu do chatbota, a nehodnotíme jednotlivých zamestnancov. Nie sme právnici: či je konkrétne použitie v súlade s ochranou osobných údajov alebo s AI Act a aké pravidlá platia pre monitorovanie zamestnancov, posúdi váš právnik alebo zodpovedná osoba. Túto otázku vyriešte skôr, než čokoľvek zapneme.
Otázky, ktoré dostávame k tejto téme
Päť, ktoré sa opakujú najčastejšie.
Čo je shadow AI?
Shadow AI je používanie AI nástrojov zamestnancami bez toho, aby to organizácia schválila alebo o tom vedela: chatbot v prehliadači, AI rozšírenie alebo zapisovateľ pripojený ku kalendáru. Riziko spočíva najmä v údajoch, ktoré do nich idú, napríklad v údajoch zákazníkov alebo interných dokumentoch, u poskytovateľa, s ktorým nemáte zmluvu.
Aký je rozdiel medzi shadow AI a shadow IT?
Shadow AI je forma shadow IT, ale zvyčajne sa nič neinštaluje. Stačí karta prehliadača, takže sa neobjaví v zozname softvéru. A viac než o zariadenie alebo program ide o to, že údaje skončia u tretej strany.
Ako zistiť, aké AI nástroje zamestnanci používajú?
Skombinujte logy firewallu alebo webového filtra, objavovanie cloudových aplikácií vo vašom bezpečnostnom balíku, zoznam súhlasov aplikácií v Entra ID alebo Google Workspace, rozšírenia prehliadača na spravovaných zariadeniach a nákladové doklady. Potom sa opýtajte priamo zamestnancov, bez následkov za to, čo sa už stalo.
Máme zakázať ChatGPT a ďalších chatbotov?
Zákaz bez alternatívy zvyčajne presunie používanie na osobné telefóny, kde ho už nevidíte. Lepšia je schválená služba s firemnými podmienkami, jasné pravidlá o tom, aké údaje smú dnu, a blokovanie zvyšku až po zavedení alternatívy.
Čítate, čo zamestnanci píšu do chatbota?
Nie. Ukážeme, ktoré služby sa používajú a ktoré aplikácie majú prístup, nie to, čo zadávajú jednotliví zamestnanci. Pravidlá monitorovania zamestnancov posúdi váš právnik alebo zodpovedná osoba.
Súvisiace články
Kde sa shadow AI stretáva s ďalšími témami.
Chcete vedieť, ktorá AI sa u vás už používa?
Porovnáme prevádzku, súhlasy aplikácií a rozšírenia a ukážeme, aké AI služby bežia a aké údaje tam môžu putovať. Čo je dovolené, ostáva vaším rozhodnutím.
Praktické IT znalosti vo vašej e-mailovej schránke
Nové návody o správe, bezpečnosti a pracovných staniciach, písané ľuďmi, ktorí túto prácu robia. Žiadne obchodné reči a odhlásiť sa môžete jedným kliknutím.