Vyžádat nabídku
Porucha IT Odvětví Kariéra O nás Blog Kontakt
Zaměstnanec u stolu v open space kanceláři, kolegové v pozadí

Shadow AI: které nástroje AI vaši lidé používají a co do nich odchází

Vaši zaměstnanci už AI používají. Otázka je, které nástroje, s jakými účty a jaká data do nich vkládají. Shadow AI je všechno, co běží mimo pohled IT: bezplatné chatboty, rozšíření prohlížeče, přepisovače schůzek. Tento článek ukazuje, jak je najít, jak posoudit riziko a proč zákaz bez alternativy nefunguje.

6 min čtení Napsal tým ITproposal
Stručná odpověď

Shadow AI vzniká, když lidé chtějí pracovat rychleji a firma jim nenabízí schválený nástroj. Zákaz bez alternativy jen přesune používání na soukromé telefony.

Hlavní riziko není samotná AI, ale data, která do ní odcházejí: smlouvy, osobní údaje, zdrojový kód.

Začněte přehledem z provozu sítě a prohlížečů, pak nabídněte schválený nástroj a krátké pravidlo, co do něj nepatří.

Co je shadow AI

Shadow AI je obdobou shadow IT: nástroje umělé inteligence, které lidé používají bez vědomí nebo schválení IT. Nejčastěji jde o:

  • bezplatné chatboty přihlášené soukromým účtem,
  • rozšíření prohlížeče, která čtou obsah stránek a e-mailů, aby ho mohla shrnout nebo přepsat,
  • přepisovače a zapisovatele schůzek, kteří se připojí k online poradě,
  • AI funkce v aplikacích, které už ve firmě běží a které se zapnuly s aktualizací.

Nikdo to obvykle nedělá ze zlé vůle. Lidé chtějí ušetřit čas a nástroj je na dva kliky.

Kde je skutečné riziko

  • Data odcházejí ven. Co se vloží do bezplatné služby, může se podle jejích podmínek použít k trénování nebo může být čitelné pro poskytovatele.
  • Osobní údaje. Vložení životopisu, zákaznické stížnosti nebo zdravotních údajů je zpracování podle GDPR, ke kterému chybí smlouva i právní titul.
  • Přístupová práva. Rozšíření prohlížeče nebo zapisovač schůzek často dostane přístup k celé poštovní schránce nebo kalendáři.
  • Nesprávné výstupy. Text nebo kód z AI, který nikdo nezkontroloval, odchází zákazníkům nebo do produkce.

Nařízení EU o umělé inteligenci (AI Act) navíc od firem očekává, že lidé, kteří AI používají, ví, co dělají. Bez přehledu o nástrojích to nelze doložit.

Jak shadow AI najít

Nezačínejte dotazníkem, začněte daty, která už máte:

  • Provoz na firewallu a proxy: které AI služby se navštěvují a jak často.
  • Udělené souhlasy aplikacím v Microsoft 365 nebo Google Workspace: které aplikace mají přístup k poště, souborům a kalendáři.
  • Rozšíření prohlížeče na spravovaných zařízeních.
  • Nákupy na firemní karty: předplatné AI nástrojů bývá malé a projde bez povšimnutí.

Teprve pak se zeptejte lidí, k čemu nástroje používají. Odpovědi vám řeknou, jakou potřebu musí schválený nástroj pokrýt.

Proč zákaz nefunguje

Blokace všech AI služeb na firemní síti vede k jedinému: lidé použijí soukromý telefon a vy přijdete i o ten malý přehled, který jste měli. Funguje opačný postup:

  • Nabídněte schválený nástroj s firemním účtem, smluvně ošetřeným zpracováním dat a bez použití vašich dat k trénování.
  • Blokujte cíleně jen služby s nepřijatelnými podmínkami, ne celou kategorii.
  • Řekněte jednoduše, co do AI nepatří: osobní údaje, smlouvy, hesla, zdrojový kód zákazníků.

Krátké pravidlo místo dlouhé směrnice

Lidé si zapamatují jednu stránku, ne dvacet. Dobré pravidlo pro AI obsahuje:

  • které nástroje jsou schválené a kde je najdete,
  • která data se do nich nesmí vkládat, s příklady z vaší firmy,
  • že výstup AI vždy kontroluje člověk, který za něj odpovídá,
  • koho se zeptat, když chcete vyzkoušet nový nástroj.

Než nasadíte firemního asistenta, který čte vaše dokumenty, srovnejte oprávnění: asistent uvidí všechno, k čemu má uživatel přístup, včetně složek, které měly být dávno uzavřené.

Technická opatření

  • Souhlasy aplikacím s přístupem k poště a souborům smí udělovat jen IT nebo po schválení.
  • Rozšíření prohlížeče na spravovaných zařízeních jen ze schváleného seznamu.
  • Štítky citlivosti a prevence úniku dat, které zabrání vložení důvěrného obsahu do neschválené služby.
  • Pravidelný přehled provozu k AI službám, aby se nové nástroje objevily dřív než v auditu.

Většinu z toho nastavíte v rámci běžné správy licencí a firemního softwaru a moderního pracoviště.

Kde končí naše práce

Co děláme. Zmapujeme, které AI nástroje se u vás používají, nastavíme schválený nástroj s firemními účty, srovnáme oprávnění, omezíme souhlasy aplikacím a rozšíření a zaškolíme lidi. Kde je potřeba osobně projít zařízení nebo poradit týmu na místě, přijdou naši vlastní lidé, kteří žijí ve vašem městě.

Co neděláme. Neposuzujeme právní soulad s AI Actem ani s GDPR a nesepisujeme smlouvy o zpracování; to patří vašemu právníkovi nebo pověřenci. A nerozhodujeme, k čemu smí vaši lidé AI používat, to je rozhodnutí vedení.

Časté otázky

Otázky, které nám kladete

Pět, které se vracejí nejčastěji.

Co je shadow AI?

Shadow AI jsou nástroje umělé inteligence, které zaměstnanci používají bez vědomí nebo schválení IT: bezplatné chatboty se soukromými účty, rozšíření prohlížeče, zapisovatele schůzek a AI funkce, které se zapnuly s aktualizací aplikace.

Jaké je největší riziko shadow AI?

Data, která do nástrojů odcházejí: osobní údaje, smlouvy, zdrojový kód. U bezplatných služeb se mohou podle podmínek použít k trénování a ke zpracování osobních údajů chybí smlouva i právní titul.

Máme AI ve firmě zakázat?

Plošný zákaz obvykle nefunguje, lidé přejdou na soukromé telefony. Lepší je nabídnout schválený nástroj s firemním účtem, cíleně blokovat služby s nepřijatelnými podmínkami a jasně říct, která data do AI nepatří.

Jak zjistit, které AI nástroje se u nás používají?

Z provozu na firewallu a proxy, z udělených souhlasů aplikacím v Microsoft 365 nebo Google Workspace, z rozšíření prohlížeče na spravovaných zařízeních a z nákupů na firemní karty. Pak se zeptejte lidí, k čemu je používají.

Posoudíte náš soulad s AI Actem?

Ne. Zmapujeme nástroje, nastavíme schválenou alternativu a technická opatření a zaškolíme lidi. Právní soulad s AI Actem a GDPR posuzuje váš právník nebo pověřenec.

Související služby

Čtěte dál

Kde AI na pracovišti potkává IT.

Víte, kam odcházejí vaše data, když lidé používají AI?

Řekněte nám, jaké prostředí máte. Zmapujeme, které AI nástroje se u vás používají, a pomůžeme nastavit schválenou cestu, kterou lidé budou chtít používat.

Praktické IT znalosti ve vaší e-mailové schránce

Nové návody ke správě, zabezpečení a pracovním stanicím, psané lidmi, kteří tu práci dělají. Žádné obchodní řeči a odhlásíte se jedním kliknutím.

Vaši adresu používáme jen pro newsletter. Viz naše zásady ochrany osobních údajů.

Nabídka Zavolat