
Shadow AI: mit használnak már a munkatársak, és hogyan lehet ezt látni
A shadow AI az a mesterséges intelligencia, amelyet a munkatársak már használnak anélkül, hogy bárki jóváhagyta volna: egy csevegőrobot egy böngészőfülön, egy bővítmény, amely minden oldalt összefoglal, egy jegyzetelő, amely belép a megbeszélésekre. A szabályzatírás keveset ér, amíg nem tudják, mi fut. Ez az írás erről az első lépésről szól: láthatóvá tenni, ami már megvan, kikérdezés nélkül.
A shadow AI-hoz nem kell telepítés: elég egy böngészőfül vagy egy bővítmény. Ezért sosem szerepel a szoftverlistán.
Öt forrásból tehető láthatóvá: hálózati forgalom, felhőalkalmazás-felderítés, alkalmazásengedélyek, böngészőbővítmények és költségelszámolások. És úgy, hogy egyszerűen rákérdeznek.
A talált eszközöket aszerint kell rendezni, milyen adat kerül beléjük, nem márka szerint. Hogy mi engedélyezett, az a szervezet döntése.
Shadow AI: mi ez, és miért fut már
A shadow AI a shadow IT egyik formája, egy különbséggel, amely nehezebbé teszi: semmit sem kell telepíteni. Valaki megnyit egy csevegőrobotot a böngészőben, bemásol egy ajánlatot vagy egy ügyfél e-mailjét, és egy perc múlva jobb szövege van. Semmit sem vásároltak, és semmi nem jelenik meg a szoftverleltárban.
Ugyanazért történik, mint minden shadow IT: a munka gyorsabban halad, és a jóváhagyott alternatíva vagy nem létezik, vagy kényelmetlenebb. Ez nem engedetlenség; megmutatja, mire van szükségük az embereknek.
A kockázat tehát nem az eszköz, hanem az, ami beléje kerül. Ügyfelek személyes adatai, egy szerződés, forráskód vagy egy HR-anyag egy személyes fiókban, olyan szolgáltatónál, akivel nincs megállapodásuk: ez az igazi probléma. Az adatvédelmi hatóságok mesterséges intelligenciával kapcsolatos útmutatói a személyes adatokra ugyanezt hangsúlyozzák.
Hol látható, melyik AI-t használják
Nincs egyetlen hely, ahol minden látszik, de öt forrás együtt jó képet ad. A legtöbb valószínűleg már megvan:
- Hálózati forgalom. A tűzfal, a DNS-szűrő vagy a webszűrő naplói megmutatják, mely AI-szolgáltatásokat érik el az irodából és a kezelt laptopokról, és milyen gyakran.
- Felhőalkalmazás-felderítés. Az olyan biztonsági csomagok, mint a Microsoft Defender for Cloud Apps, felismerik az ismert felhőalkalmazások forgalmát, az AI-szolgáltatásokat is, és mindegyikhez kockázati besorolást adnak.
- Alkalmazásengedélyek. A Microsoft Entra ID vagy a Google Workspace adminisztrációs konzolja megmutatja, mely alkalmazások kaptak hozzáférést a munkatársak leveleihez, naptárához vagy fájljaihoz. Itt jelennek meg az egy kattintással összekötött AI-jegyzetelők és írássegédek.
- Böngészőbővítmények. A kezelt eszközökön listázhatók a telepített bővítmények. Az olyan AI-bővítmények, amelyek minden oldalt olvasnak, azonnal kitűnnek.
- Költségelszámolások és kártyakivonatok. Az az előfizetés, amelyet valaki kifizet és visszaigényel, üzleti használatban lévő AI-eszköz mögöttes megállapodás nélkül.
Érdemes észrevenni, mit nem látnak: a személyes telefonon vagy otthoni laptopon történő használatot. Ezért a következő lépés ugyanolyan fontos, mint a technológia.
Rákérdezés kikérdezés nélkül
A leggyorsabb módja annak, hogy kiderüljön, mit használnak a munkatársak, hogy megkérdezik őket. Ez csak akkor működik, ha a válasznak nincs következménye arra nézve, ami eddig történt. Ezt előre ki kell mondani, és komolyan kell gondolni.
- A célra kell rákérdezni, nem csak az eszközre. A „mire használja?” megmondja, milyen igényt kell lefednie a jóváhagyott alternatívának.
- Meg kell kérdezni, milyen adat kerül bele. Név nélküli szöveg, ügyféladatok, belső dokumentumok, kód. Ez jobban meghatározza a kockázatot, mint a szolgáltatás neve.
- Meg kell kérdezni, személyes vagy üzleti fiókról van-e szó. Sok szolgáltatásnál ez változtatja meg, mit tehet a szolgáltató a bevitt adattal.
- Rövidnek és ahol lehet, névtelennek kell lennie. Öt kérdés őszintébb válaszokat hoz, mint húsz.
A válaszokat a technológia által mutatottak mellé kell tenni. Ahol eltérnek, a különbség általában az irodán kívüli használat.
Mit kezdjenek a listával: adat szerint rendezzenek, ne márka szerint
Az AI-eszközök listája csak rendezés után lesz hasznos. Azt kell nézni, mi történik az adattal, mert ugyanaz a szolgáltatás üzleti fiókkal rendben lehet, személyessel nem.
- Engedélyezni. Olyan szolgáltatás, amellyel üzleti megállapodásuk van, ahol a bevitt adatot nem használják a modell tanítására, és tudják, hol tárolják az adatot.
- Feltételekkel engedélyezni. Csak üzleti fiókkal, személyes adat nélkül, vagy csak rövid tájékoztatás után.
- Lecserélni. Olyan szolgáltatás, amelyhez nincs megállapodás, és amelybe érzékeny adat kerül. Tiltani csak akkor érdemes, ha az alternatíva kész, különben a használat egyszerűen a személyes telefonokra költözik.
Szolgáltatásonként négy kérdés elég: használják-e a bevitt adatot tanításra, hol tárolják az adatot, a szolgáltatónál kik férhetnek hozzá, és van-e adatfeldolgozási megállapodás, ha személyes adatról van szó.
A legnehezebb fajta: az AI, amely együtt olvas és hallgat
Egy csevegőrobot, amelybe valaki szöveget másol be, látható és korlátozott: csak az kerülhet ki, ami bekerült. Nehezebbek azok az eszközök, amelyek állandó hozzáférést kaptak.
- AI-jegyzetelők, amelyek minden naptári megbeszélésre felkerülnek, azokra is, ahol az ügyfelek nem tudnak róla.
- Író- és e-mail-asszisztensek, amelyek olvasási hozzáférést kaptak az egész postafiókhoz.
- Böngészőbővítmények, amelyek minden megnyitott oldal tartalmát olvassák, a belső rendszerekét is.
Ez a hozzáférés sokáig megmarad azután is, hogy a munkatárs elfelejtette az eszközt, és néha azután is, hogy távozott. A megmagyarázhatatlan engedélyeket vissza kell vonni, és be kell állítani, hogy a munkatársak csak ellenőrzött kiadóktól származó alkalmazásokat köthessenek be, vagy csak rendszergazdai jóváhagyás után. Egyetlen beállítás, nagy hatással.
Láthatóság fenntartása egyszeri takarítás helyett
A leltár hónapokon belül elavul; hetente jelennek meg új AI-szolgáltatások, és új AI-funkciók érkeznek a már használt szoftverekbe. Az segít, ha van fix ritmus:
- Havi áttekintés a forgalomban megjelenő új alkalmazásokról és az új alkalmazásengedélyekről.
- Jóváhagyott alternatíva, amely ugyanolyan könnyű. Amíg a hivatalos út több fáradságot kíván, a másik nyer.
- Hely új eszköz kérésére, gyors válasszal. A három hétig megválaszolatlan kérés meghívás arra, hogy intézzék el maguk.
- Szerepkör szerinti útmutatás. Az uniós MI-rendelet (AI Act) 2025 februárja óta megköveteli, hogy a szervezetek gondoskodjanak az AI-t használók megfelelő AI-jártasságáról. A szabályzatba kerülő szabályokat szerepkörönként érdemes megfogalmazni.
Ahol a munkánk véget ér
Amit végzünk. Láthatóvá tesszük, mely AI-szolgáltatások jelennek meg a forgalomban, az alkalmazásengedélyekben és a bővítményekben, korlátozzuk, ki köthet be alkalmazásokat, visszavonjuk a megmagyarázhatatlan hozzáféréseket, és jóváhagyott alternatívát állítunk be, például üzleti AI-környezetet a saját tenantjukon belül.
Amit nem végzünk. Nem olvassuk, mit gépelnek a munkatársak egy csevegőrobotba, és nem értékeljük az egyes munkatársakat. Nem vagyunk ügyvédek: hogy egy konkrét használat jogszerű-e az adatvédelmi jog és az MI-rendelet szerint, és hogy milyen szabályok vonatkoznak a munkavállalók ellenőrzésére, azt az ügyvédjük vagy az adatvédelmi tanácsadójuk ítéli meg. Ezt a kérdést még azelőtt rendezni kell, hogy bármit bekapcsolnánk.
Gyakori kérdések
Az öt leggyakoribb kérdés.
Mi az a shadow AI?
A shadow AI az, amikor a munkatársak a szervezet jóváhagyása és tudta nélkül használnak AI-eszközöket: egy csevegőrobotot a böngészőben, egy AI-bővítményt vagy egy naptárhoz kötött jegyzetelőt. A kockázat főként a beléjük kerülő adatban rejlik, például ügyféladatokban vagy belső dokumentumokban, olyan szolgáltatónál, akivel nincs megállapodás.
Mi a különbség a shadow AI és a shadow IT között?
A shadow AI a shadow IT egyik formája, de általában semmit sem kell telepíteni. Elég egy böngészőfül, ezért nem szerepel a szoftverlistán. És kevésbé egy eszközről vagy programról van szó, inkább arról, hogy az adat harmadik félhez kerül.
Hogyan derül ki, mely AI-eszközöket használják a munkatársak?
A tűzfal- vagy webszűrő-naplók, a biztonsági csomag felhőalkalmazás-felderítése, az Entra ID vagy a Google Workspace alkalmazásengedély-listája, a kezelt eszközök böngészőbővítményei és a költségelszámolások együtt adnak képet. Utána közvetlenül rá kell kérdezni a munkatársaknál, úgy, hogy annak, ami eddig történt, nincs következménye.
Tiltsuk le a ChatGPT-t és a többi csevegőrobotot?
Alternatíva nélküli tiltás általában a személyes telefonokra tereli a használatot, ahol már nem látják. Jobb egy jóváhagyott szolgáltatás üzleti feltételekkel, világos szabályokkal arról, milyen adat kerülhet bele, és a maradék blokkolása csak akkor, ha az alternatíva már működik.
Olvassák, mit gépelnek a munkatársak egy csevegőrobotba?
Nem. Azt mutatjuk meg, mely szolgáltatásokat használják és mely alkalmazások férnek hozzá, nem azt, hogy az egyes munkatársak mit adnak meg. A munkavállalók ellenőrzésére vonatkozó szabályokat az ügyvédjük vagy adatvédelmi tanácsadójuk értékeli.
További olvasnivaló
Amihez a shadow AI kapcsolódik.
Szeretnék tudni, melyik AI van már használatban a szervezetüknél?
Egymás mellé tesszük a forgalmat, az alkalmazásengedélyeket és a bővítményeket, és megmutatjuk, mely AI-szolgáltatások futnak, és milyen adat kerülhet oda. Hogy mi engedélyezett, azt utána Önök döntik el.
Gyakorlatias IT-tudás az Ön postaládájában
Új útmutatók az üzemeltetésről, a biztonságról és a munkaállomásokról, azok írják, akik a munkát végzik. Semmi üzletieskedés, és egyetlen kattintással leiratkozhat.