Aby sme držali krok s požiadavkami zamestnávateľov a pracovného trhu, AI pre vyššiu produktivitu pripájame k e-mailom, kalendárom, dokumentom aj ďalším službám. Postupne jej odovzdávame čoraz presnejší obraz o svojom pracovnom i súkromnom živote. Bezpečné používanie AI pritom neznamená, že ju musíme odmietať. Musíme však vedieť, aké dvere jej otvárame.
Od pohodlia k pracovnej nevyhnutnosti
Rozmach sociálnych sietí a takmer paralelný nástup inteligentných telefónov spôsobili pred dvadsiatimi rokmi revolúciu v tom, ako narábame so svojím súkromím. Umelá inteligencia dnes tejto revolúcii pridala úplne nový “spin”. Odovzdávať technológiám prístup k svojej “osobnosti“ na Instagrame alebo TikToku už nie je voľnočasová zábava, ale do veľkej miery aj profesionálna nevyhnutnosť.
Kolega za rovnaký čas pripraví viac návrhov, rýchlejšie spracuje podklady a odpovie na desiatky správ. Firma očakáva vyšší výkon, klient kratšie termíny a človek, ktorý AI nepoužíva, môže mať pocit, že za ostatnými zaostáva. Dilema preto už väčšiny nie je, či AI používať.
Umelá inteligencia naberá na kvalite, my na návykovosti
Na začiatku boli otázky zadané do ChatGPT alebo Claude. O rok neskôr AI modely pripájame k pracovným e-mailom, úložiskám, kalendárom, poznámkam, prepisom porád, grafickým aplikáciám, CRM systémom či interným databázam. Čím je nástroj užitočnejší, tým viac informácií a oprávnení od nás zvyčajne potrebuje.
Väčšina profesionálov, ktorí chcú ostať vo svojom odvetví relevantnými aj v budúcich rokoch, si teda nekladie otázku, či, ale skôr ako bezpečne používať AI bez toho, aby sme jej postupne odovzdali kontrolu nad celým svojím digitálnym životom.
Keď AI zlyhá, vie o nás prezradiť všetko
Ľudia komunikujú s AI inak ako s bežným softvérom. Konverzácia cez prompty navodzuje pocit súkromného rozhovoru. Zrazu nie je problém hovoriť o pracovných problémoch, zdraví, vzťahoch aj intímnych tajomstvách, ktoré by ste do verejného formulára nikdy nenapísali. Je dôležité uvedomiť si, že ochrana týchto informácií nezávisí iba od samotného AI modelu, ale aj od aplikácie a jej prevádzkovateľa.
V roku 2025 nezabezpečený server aplikácií Chattee Chat a GiMe Chat sprístupnil viac ako 43 miliónov súkromných správ a vyše 600-tisíc fotografií a videí patriacich približne 400-tisíc používateľom. Unikli IP adresy, identifikátory zariadení, autentifikačné tokeny a záznamy o nákupoch. Server dáta prenášal v reálnom čase a k jeho obsahu sa mohol dostať ktokoľvek, kto poznal príslušnú adresu. Nezlyhal teda nevyhnutne AI model, ale aplikácia postavená okolo neho a základná ochrana jej infraštruktúry.
AI si o nás skladá oveľa presnejší obraz
AI, ktorá pracuje s našimi správami, dokumentmi a históriou úloh, postupne vytvára detailné digitálne zrkadlo človeka alebo celej organizácie. Model môže poznať naše pracovné návyky, klientov, projekty, termíny, finančné informácie, spôsob komunikácie aj problémy, ktoré aktuálne riešime. Jednotlivé údaje nemusia pôsobiť nebezpečne. Ich spojením však vzniká mimoriadne hodnotný a citlivý profil.
„Poskytovatelia AI služieb môžu získať ešte širší a hlbší prehľad o používateľoch ako klasickí prevádzkovatelia mobilných systémov. Kritické preto je, akej službe dôverujeme, aké dáta jej odovzdávame a aké garancie máme okolo ich ochrany,“ upozorňuje Pavol Draxler, expert na kybernetickú bezpečnosť v Binary Confidence.
Prvým rizikom je strata kontroly nad obsahom, ktorý do AI zadávame. Ľudia si nechávajú sumarizovať zmluvy, kontrolovať zdrojový kód, prepisovať interné prezentácie alebo analyzovať finančné tabuľky. Nemusia pritom vedieť, kde sa tieto dáta ukladajú, ako dlho sa uchovávajú, kto k nim môže pristupovať a či sa používajú na zlepšovanie modelu. Informácia, ktorá dnes pôsobí neškodne, môže byť citlivá aj o niekoľko rokov.
Každá pripojená služba zvyšuje riziko
Druhým problémom sú integrácie a prístupové oprávnenia. Pri prepájaní AI s e-mailom alebo cloudovým diskom zvyčajne nástroju neposielame priamo heslo. Udelíme mu však prístupový token, ktorý môže umožňovať čítanie správ, prehľadávanie dokumentov alebo vykonávanie úloh v našom mene. Ak má služba viac práv, ako reálne potrebuje, prípadný bezpečnostný incident môže mať oveľa väčší dosah.
AI zároveň prináša aj nové spôsoby útoku. Škodlivý pokyn môže byť ukrytý v e-maile, dokumente alebo na webovej stránke. Nástroj, ktorý takýto obsah spracuje, sa ním môže nechať zmanipulovať. Útočník sa tak môže pokúsiť prinútiť AI, aby obišla pravidlá, vyhľadala citlivé informácie alebo vykonala neželanú operáciu v pripojenom systéme. Tento typ manipulácie sa označuje ako prompt injection.
Rizikom nie sú iba veľké známe platformy. Ešte menej prehľadné môžu byť rôzne AI rozšírenia prehliadača, meeting boty, neoficiálne doplnky a služby, ktoré iba obaľujú model iného poskytovateľa. Používateľ často nevie, koľko ďalších firiem sa dostáva k jeho dátam a komu vlastne udelil prístup k mikrofónu, otvoreným stránkam či pracovným dokumentom.
Ako na bezpečné používanie AI? Treba jej určiť hranice
Nepoužívať AI nie je pre väčšinu ľudí realistické riešenie. Dokáže výrazne šetriť čas a v mnohých profesiách sa stáva bežnou súčasťou práce. „Zmysluplná ochrana nespočíva v odmietaní technológie, ale vo vedomom rozhodovaní, kde ju používame, aké dáta jej dávame a akú identitu s ňou prepájame,“ hovorí Pavol Draxler, expert na kybernetickú bezpečnosť zo spoločnosti Binary Confidence.
Firmy by mali zamestnancom ponúknuť schválené podnikové nástroje s jasnými pravidlami spracovania dát. Ak človek nedostane bezpečnú alternatívu, pravdepodobne začne pracovné úlohy riešiť cez vlastný bezplatný účet. Tak vzniká „shadow AI“, technológia používaná mimo kontroly organizácie.
Pri citlivejších dátach môžu byť riešením podnikové prostredia, privátne cloudy, VPC alebo interne prevádzkované modely. Čoraz dostupnejšie budú aj on-device modely, ktoré spracujú údaje priamo v zariadení bez toho, aby všetko odosielali tretej strane.
Praktický checklist pre bezpečné používanie AI:
- Do verejných AI nástrojov nevkladajte heslá, API kľúče, rodné čísla, zdravotné údaje, celé zmluvy ani neverejné firemné dokumenty.
- Pred vložením dát odstráňte mená, kontakty, názvy klientov a ďalšie identifikátory.
- Pri pracovných úlohách používajte firemný účet a schválené podnikové nástroje, nie súkromný bezplatný profil.
- Overte si, či poskytovateľ používa vstupy na tréning, ako dlho ich uchováva a či ich možno vymazať.
- Integráciám udeľujte iba nevyhnutné oprávnenia. Ak postačuje čítanie, nepovoľujte zapisovanie, odosielanie alebo mazanie.
- Pravidelne skontrolujte, ktoré služby majú prístup k vášmu e-mailu, kalendáru a cloudovým diskom. Nepoužívané prepojenia zrušte.
- Chráňte účty pomocou passkeys, bezpečnostných kľúčov, kvalitného správcu hesiel a viacfaktorového overovania.
- Oddeľujte pracovný a súkromný kontext a pri citlivých úlohách vypnite nepotrebnú históriu či pamäť.
- Odoslanie správy, zmenu dokumentu, nákup, platbu alebo zásah do produkčného systému vždy nechajte potvrdiť človekom.
Najjednoduchším pravidlom je správať sa k AI ako k externému spolupracovníkovi. Mala by dostať iba dáta a oprávnenia, ktoré potrebuje na konkrétnu úlohu, pracovať pod primeraným dohľadom a dať sa okamžite odpojiť. AI môže byť výborným pomocníkom. Nemusí však automaticky dostať univerzálny kľúč od celého nášho digitálneho života.
Táto aktivita je podporovaná European Cybersecurity Competence Centre (ECCC) ako súčasť projektu s grantovým kódom: 101145856 a Ministerstvom investícií, regionálneho rozvoja a informatizácie ako súčasť projektu Plán obnovy pod grantovým kódom: 17I04-04-V02-00001.
