AI agenti: Čo dokážu a aké bezpečnostné riziká prinášajú

Ešte pred pár rokmi sme od umelej inteligencie čakali hlavne to, že nám odpovie na otázku alebo napíše text. Dnes sa čoraz častejšie hovorí o AI agentoch, teda systémoch, ktoré dokážu samy plánovať kroky, používať nástroje a vykonávať úlohy v našom mene. S novými schopnosťami však prichádzajú aj nové riziká. V tomto článku vysvetľujeme, čo AI agenti sú, na čo sa dajú využiť a ako s nimi pracovať tak, aby ste si nepripravili problém.

Čo sú AI agenti a ako sa líšia od chatbotov

Bežný chatbot funguje jednoducho: položíte otázku, dostanete odpoveď. Čo s ňou urobíte ďalej, je na vás. AI agent ide o krok ďalej. Dostane cieľ, rozloží ho na kroky a na ich splnenie môže používať rôzne nástroje, napríklad prehliadač, e-mail, kalendár, súborový systém alebo vývojárske prostredie.

Americký inštitút NIST, konkrétne jeho Centrum pre štandardy a inovácie v oblasti AI (CAISI), opisuje agentné systémy ako systémy schopné vykonávať samostatné akcie, ktoré ovplyvňujú reálne systémy alebo prostredie. Práve tento rozdiel je dôležitý: agent nielen radí, ale aj koná.

Najdôležitejšie rozdiely v skratke

• Chatbot: odpovedá na jednotlivé otázky, nič sám nespúšťa, človek rozhoduje o každom kroku.
• AI agent: pracuje na celej úlohe, volá nástroje, môže zmeniť súbory, poslať správu či spustiť program.
• Dôsledok: chyba chatbota je zvyčajne len nesprávna odpoveď, chyba agenta môže byť nechcená akcia.

Čo AI agenti dokážu v praxi

Schopnosti agentov sa líšia podľa produktu a nastavenia. Nasledujúce príklady ukazujú typické scenáre, nie záruku, že každý nástroj ich zvládne spoľahlivo.

V práci

• Príprava podkladov na schôdzku: agent zhromaždí relevantné dokumenty, zhrnie ich a navrhne program.
• Triedenie e-mailov a príprava návrhov odpovedí, ktoré si človek pred odoslaním skontroluje.
• Spracovanie opakujúcich sa administratívnych úloh, napríklad prepisovanie údajov medzi tabuľkami.
• Prieskum témy z viacerých zdrojov s následným zhrnutím.

Pri programovaní

• Agent prečíta kódovú základňu, navrhne zmeny vo viacerých súboroch a spustí testy.
• Hľadanie príčiny chyby na základe chybových hlásení a logov.
• Písanie dokumentácie, migrácia knižníc či refaktoring väčších častí kódu.

V každodennom živote

• Porovnanie ponúk a príprava prehľadu možností, napríklad pri plánovaní cesty.
• Pomoc s organizáciou kalendára a pripomienok.
• Zhrnutie dlhých dokumentov, zmlúv či manuálov do zrozumiteľnej podoby.

Spoločným menovateľom je úspora času pri viackrokových úlohách. Zároveň platí, že agent robí chyby, môže nepochopiť zadanie a jeho výstup treba kontrolovať, najmä ak ide o niečo dôležité.

Bezpečnostné riziká AI agentov

Čím viac povolení agent dostane, tým väčšie škody môže napáchať, či už vlastnou chybou, alebo zásahom útočníka. Poďme sa pozrieť na štyri hlavné oblasti.

1. Neoprávnené alebo nechcené konanie

Organizácia OWASP, ktorá sa venuje bezpečnosti aplikácií, vo svojom prehľade rizík pre aplikácie s veľkými jazykovými modelmi uvádza problém nazvaný excessive agency, teda nadmerná právomoc. Vzniká vtedy, keď systém dostane viac autonómie, oprávnení alebo prístupu, než skutočne potrebuje. OWASP uvádza tri typické príčiny: príliš veľa funkcií, príliš veľa oprávnení a príliš veľa samostatnosti.

V praxi to môže znamenať, že agent s prístupom k celej schránke dokáže nielen čítať, ale aj mazať či odosielať správy, hoci ste od neho chceli iba zhrnutie.

2. Podvodné príkazy a prompt injection

Toto je pravdepodobne najzaujímavejšie riziko. Pri tzv. nepriamej prompt injection útočník ukryje pokyny v obsahu, ktorý agent číta, napríklad na webovej stránke, v e-maile alebo v dokumente. Model môže tieto pokyny vyhodnotiť ako príkaz a zmeniť svoje správanie. OWASP túto hrozbu radí na prvé miesto vo svojom zozname rizík pre aplikácie s jazykovými modelmi.

Britské Národné centrum kybernetickej bezpečnosti (NCSC) upozorňuje, že prompt injection nemožno považovať za obdobu SQL injection. Pri SQL injection existuje spoľahlivá obrana v podobe oddelenia dát od príkazov. Jazykové modely však medzi dátami a inštrukciami nerozlišujú tak jasne, preto podľa NCSC nemusí byť možné tento problém úplne odstrániť. Odporúčaný prístup je preto znižovať pravdepodobnosť a najmä dopad zneužitia, nie spoliehať sa na jedno „zázračné“ riešenie.

Aj NIST v januári 2026 vo svojej výzve na zber informácií o bezpečnosti AI agentov uvádza, že agentné systémy môžu byť náchylné na hijacking (únos správania), backdoor útoky a iné zneužitia.

3. Ochrana súkromia a únik dát

Aby agent mohol pomáhať, často potrebuje prístup k vašim e-mailom, dokumentom, kalendáru alebo firemným systémom. Každý takýto prístup je potenciálna cesta k úniku údajov. Ak agent spracúva obsah z nedôveryhodného zdroja a zároveň má prístup k citlivým údajom, útočník sa môže pokúsiť agenta nasmerovať, aby údaje odoslal von. Dôležité je tiež vedieť, kam sa vaše dáta posielajú, ako dlho sa uchovávajú a či sa môžu použiť na ďalšie trénovanie modelov. Pozrite si podmienky konkrétneho poskytovateľa.

4. Kybernetická bezpečnosť a identita agentov

Agent sa v systémoch správa ako ďalší používateľ, často s vlastnými prístupovými údajmi, tokenmi alebo kľúčmi. NIST preto v roku 2026 rieši aj otázku identity a oprávnení agentov: ako ich spoľahlivo odlíšiť od ľudí a ako zabezpečiť, aby konali iba v rámci toho, čo im bolo explicitne delegované. Podľa výskumnej poznámky Cloud Security Alliance spustil NIST 17. februára 2026 iniciatívu AI Agent Standards Initiative zameranú na bezpečnosť, interoperabilitu a identitu agentov. Záväzné štandardy zatiaľ nie sú hotové, preto sa nemožno spoliehať, že bezpečnosť za vás vyrieši regulácia.

Ako používať AI agentov bezpečnejšie

Dobrá správa: veľa rizík sa dá výrazne znížiť rozumným nastavením. Tu je praktický zoznam.

Pre bežných používateľov

1. Dávajte len minimálne oprávnenia. Ak agent potrebuje čítať, nedovoľte mu zapisovať. Ak potrebuje jednu zložku, nedávajte mu celý disk.
2. Vyžadujte potvrdenie pri dôležitých akciách. Odoslanie správy, platba, zmazanie súboru či zmena nastavení by mali prejsť cez váš súhlas.
3. Nedôverujte obsahu z internetu. Stránky, e-maily a dokumenty od cudzích ľudí môžu obsahovať skryté pokyny. Zvlášť opatrní buďte pri úlohách typu „prečítaj tento odkaz a urob, čo tam stojí“.
4. Nevkladajte citlivé údaje bez potreby. Heslá, čísla kariet či zdravotné informácie do agenta nepatria.
5. Kontrolujte výstupy. Agent môže zaváhať, vymyslieť si detail alebo nepochopiť zadanie.
6. Používajte oddelené účty. Pre experimenty zvoľte samostatný účet bez prístupu k dôležitým dátam.

Pre vývojárov a firmy

• Obmedzte zoznam nástrojov, ktoré môže agent volať, na nevyhnutné minimum.
• Používajte krátkodobé a úzko vymedzené prístupové tokeny, nie univerzálne kľúče.
• Oddeľte spracovanie nedôveryhodného obsahu od akcií s vysokým dopadom.
• Zaznamenávajte, čo agent urobil, aby sa dali incidenty spätne preskúmať.
• Spúšťajte agentov, ktorí vykonávajú kód, v izolovanom prostredí (sandbox).
• Testujte odolnosť voči prompt injection a buďte skeptickí voči dodávateľom, ktorí tvrdia, že ju dokážu úplne zastaviť. NCSC odporúča hľadať skôr tých, ktorí vedia vysvetliť, ako riziko znižujú.

Na čo si dať pozor pri hodnotení „autonómie“

Marketing často zdôrazňuje, ako samostatne agenti pracujú. Pre bezpečnosť je však užitočnejšie pýtať sa inak: Čo najhoršie sa môže stať, ak agent urobí chybu alebo ho niekto zmanipuluje? Ak je odpoveďou „pošle e-mail všetkým kontaktom“ alebo „zmaže produkčnú databázu“, treba pridať ďalšie poistky, alebo úlohu agentovi nedať vôbec.

Záver: Agenti sú užitoční, ale nie sú neomylní

AI agenti sú v roku 2026 reálnym nástrojom, ktorý môže ušetriť čas pri práci, programovaní aj bežných povinnostiach. Zároveň ide o technológiu, ktorej bezpečnostné prostredie sa ešte len formuje: prompt injection nie je vyriešený problém a štandardy sa stále tvoria. Najlepšia stratégia je jednoduchá: začnite s malými právomocami, dôležité kroky nechajte na schválenie človekom a k nedôveryhodnému obsahu pristupujte s opatrnosťou.