AI agenti dokážu autonómne konať, no prinášajú riziká (rozhovor s expertom)

AI agenti dnes dokážu samostatne odpovedať na e-mail. O príležitostiach, výzvach aj rizikách nasadzovania umelej inteligencie do firemných procesov sme sa rozprávali s hlavným špecialistom spoločnosti ESET na AI, Jurajom Jánošíkom.

V rozhovore sa dozviete:

• ako môže AI pomôcť firmám zefektívniť procesy a čo brzdí jej bezpečné zavádzanie,
• čo už dnes dokážu AI agenti a aké riziká prinášajú neoverené AI skilly,
• či ako ESET pomáha firmám chrániť sa pred novými hrozbami spojenými s AI.

Firmy dnes pomerne rýchlo zavádzajú do svojich procesov AI, aby boli efektívnejšie. Na druhej strane je otázka, či rovnakým tempom stíhajú aj bezpečnostné opatrenia. Juraj, vidíš ty teraz AI pre firmy viac ako výzvu alebo ako príležitosť?

Ja ich vidím ako oboje. Príležitosť je to v tom, že sa dajú zefektívniť procesy. Tá adopcia AI síce ide pomalšie, ale keď sa firmy zamerajú na konkrétne prípady využitia, ktoré by chceli riešiť, tak im to z dlhodobého hľadiska pomôže aj z pohľadu konkurencieschopnosti.

Výzvy sú samozrejme v tom, ako to spraviť poriadne, ako edukovať ľudí vo firme a ako do toho dostať aj seniornejších ľudí. Ako ich naučiť s tým pracovať, vyriešiť problémy s bezpečnosťou a s dôverou. To sú tie zásadné veci, ktoré možno bránia adopcii a sú najväčšou výzvou v enterprise prostredí.

Keby si mal vybrať jednu najväčšiu hrozbu alebo výzvu, ktorú vidíš v kontexte firiem a zavádzania AI do svojich procesov, čo by to bolo?

Povedal by som, že je to určite do veľkej miery o vzdelávaní a o dôvere k týmto technológiám. Ako pri každej novej technológii, vždy s tým prichádzajú aj problémy. Obzvlášť pri takej technológii, ako je umelá inteligencia, kde ten vývoj ide rapídne dopredu a nedá sa všetko sledovať.

Takže ja rozumiem tomu, prečo sú CISOs vo firmách veľakrát nedôverčiví, aj keď je na zavádzanie AI tlak. Toto sú veci, s ktorými sa treba vysporiadať. Tam je samozrejme ESET nápomocný.

Pre etablované firmy, ktoré sa snažia zavádzať umelú inteligenciu, by som začal tým, že by som sa pozrel na etablovaných vendorov, možno na väčšie spoločnosti, namiesto toho, aby išli po vlastných implementáciách alebo po nie úplne dôveryhodných riešeniach.

Lebo väčšinou tie veľké spoločnosti, ktoré už v tomto majú nejaký rozbeh, myslia aj na bezpečnosť. A potom sa dá ísť aj cestou vlastných implementácií.

Teraz možno z pohľadu bežných korporátnych zamestnancov. Čo dokáže už umelá inteligencia spraviť? Ako im už dokáže pomôcť okrem toho, že možno urobí nejaký rešerš alebo pomôže s vygenerovaním textu či tabuľky? Dokáže automaticky aj napríklad odpovedať na e-mail?

Dokáže. Hlavne tieto agentic AI nástroje, ktoré v posledných týždňoch zažívajú explóziu. Ale samozrejme to nadšenie pre ne ide väčšinou rýchlejšie ako ich bezpečnosť. Takže to je ten druhý aspekt, ktorý treba mať na pamäti.

Nechal by som tomu generovať e-mail len na základe toho, čo si to naštudovalo z mojich dát? Neviem, či by som tomu úplne chcel nechať takúto autonómiu. Takže treba sa zamýšľať nad tými use casmi.

Spraviť povedzme vybratie informácií z predchádzajúceho dňa, z e-mailov, ktoré mi prišli, alebo z komunikácie, to je veľmi dobrý use case, aj z tých jednoduchších. Nechať to už robiť nejaké akcie, tam by som bol momentálne opatrnejší.

Rozprávame sa teda o AI agentoch, ktorých sme dokonca v spoločnosti ESET aj skúmali. Zistili sme aj nejaké veci, pri ktorých by nám mala zablikať kontrolka.

V princípe za posledné týždne celý ekosystém agentic AI nabral zásadné obrátky. To, o čom sa bavíme, sú v podstate nástroje, kde je language model použitý ako základ, ktorý vie porozumieť tomu, čo od neho používateľ chce, a zároveň vie vykonať aj akcie.

Na vykonávanie akcií používa niečo, čo sa nazýva AI skills. V zásade je to nejaký popis jeho schopností, čo vie urobiť. Momentálne existujú obrovské databázy tisícov takýchto skillov, ktoré vznikli v podstate na zelenej lúke.

Problém je ten, že nadšenci, ktorí sú medzi prvými adoptérmi takýchto nástrojov, si veľakrát neuvedomujú, že práve skilly sú priestorom pre útočníkov, ktorí sa do nich snažia vložiť škodlivú aktivitu. My sme sa pozreli na aktuálne repozitáre týchto AI skills, zanalyzovali sme ich a našli sme obrovské množstvo, stovky takých, ktoré sú nebezpečné a dokážu na zariadenie priniesť malvér.

Vybudovali sme preto ochranu do našich produktov, takže naši zákazníci už voči tomuto chránení sú. Pripravili sme ale aj niečo, čo nazývame AI Skills Checker. Je to online nástroj, ktorý je zadarmo a slúži na kontrolu takýchto skillov.

Takže ak mám nejakú pochybnosť, či skill, ktorý chcem použiť na zjednodušenie procesu, je bezpečný, môžem využiť tento nástroj?

Áno.

Ale samozrejme na plnú ochranu je ideálne používať komplexné bezpečnostné technológie. Čo ešte okrem toho robí ESET, ako najväčšia kyberbezpečnostná firma v Európe, na posilnenie ochrany používateľov v tomto čoraz dynamickejšie sa vyvíjajúcom svete AI?

Pozeráme sa na to, akým smerom sa toto vyvíja. Agentic AI aj používanie language modelov, ich nasadzovanie do firiem, to sú všetko výzvy aktuálnej doby, ktoré ideme adresovať našimi technológiami.

Už v tomto roku tam pridávame mnohé ďalšie funkcie na ochranu. Jednak komunikáciu medzi agentami, komunikáciu medzi používateľom a týmito modelmi, tieto AI nástroje – na všetko toto pridávame ochranu voči malicióznym aktivitám.

Takisto pre firmy pridávame možnosť sledovať využívanie AI nástrojov v rámci ich ekosystému. Keďže existuje niečo, čo sa nazýva Shadow AI, to znamená, že aj keď vo firme nie sú nejaké nástroje dovolené alebo sú vyslovene zakázané, ľudia si hľadajú cesty, ako si zefektívniť robotu, a pritom prirodzene vznikajú rôzne problémy. Takže prinášame riešenia, ako zlepšiť túto vizibilitu.

Uvedomujeme si, že aj útočníci budú využívať tieto nástroje, vidíme, čo sa deje. To, čo predtým boli techniky hlavne v rukách veľmi vyspelých útočníkov, sa teraz vďaka umelej inteligencii dostávajú aj do rúk menej skúsených útočníkov. Takže celkovo sa určite zvýši počet útokov. Nie teraz vyslovene AI útokov, ale všeobecne útokov.

Pozeráme sa teda aj týmto smerom – ako voči tomu vieme chrániť a kde vieme posilniť naše technológie. A určite tento rok 2026 bude rokom supply chain útokov. V podstate to znamená, že aj bežné aplikácie alebo balíky, ktoré sú využívané v rámci softvérového stacku, sa môžu stať zraniteľnými. Takže aj to bude oblasť, na ktorú sa tento rok sústredíme.