Nastane AI-pokalypsa? Obsah, ktorý momentálne ponúka ChatGPT, je ohromujúci, no mali by sme od tohto chatbota očakávať aj chrlenie sofistikovaného malvéru?
Nie, tento článok nenapísal ChatGPT. Od tohto nástroja sme taktiež nechceli odpoveď na otázku položenú v nadpise – zodpovieme si ju sami. Rozhodne by ju však dokázal zodpovedať aj ChatGPT. Do textu sme vložili niekoľko slovných obratov, ktoré dokazujú, že nie sme robot. Aby však ChatGPT pôsobil dôveryhodne, mohol by urobiť presne to isté.
Horúco diskutovaný nástroj umelej inteligencie je dostatočne kvalitný na to, aby vypracúval domáce úlohy, výskumné práce, poskytoval právne rady či lekárske diagnózy. Dokáže však spôsobiť zemetrasenie v oblasti digitálnych hrozieb?
Stret umelých inteligencií
V boji stroja proti stroju, ktorý si technologickí nadšenci predstavujú už roky, sa ChatGPT javí ako vážny súper, ktorý by bezpečnostnému softvéru mohol narobiť nemalé problémy. Keďže útočné aj obranné mechanizmy používajú najnovšie modely strojového učenia, raz k tomu muselo dôjsť.
Pravdou však je, že na vytvorenie dobrého antimalvérového mechanizmu nestačia len technológie. Určitý ľudský zásah sa vyžadoval vždy. Hoci sa modely strojového učenia používajú na asistenciu pri tvorbe front-endov aj na zložitejšie analýzy, stále ešte nedokážu samé o sebe bez problémov eliminovať malvér. Ten prosto nie je taký jednoduchý.
Ako to však vyzerá na temnej strane? Mnohí ľudia z IT komunity si kladú nasledujúce otázky, ktoré sa pokúsime zodpovedať.
Akú kvalitu bude dosahovať malvér generovaný nástrojom ChatGPT?
Popravde, ešte nie sme blízko ku generovaniu komplexného malvéru iba pomocou umelej inteligencie, hoci ChatGPT je celkom dobrý v navrhovaní kódu, vytváraní príkladov kódov a jeho častí, ladení, optimalizácii kódu a dokonca aj v automatizácii dokumentácie.
A čo pokročilejšie funkcie?
Nevieme, nakoľko je dobrý v maskovaní. Niektoré príklady sa týkajú skriptovacích jazykov, ako je Python. Videli sme však, že ChatGPT „obrátil“ význam dekompilovaného kódu pripojeného k programu IDA Pro, čo je zaujímavé. Pravdepodobne ide o celkom šikovný nástroj určený aj na pomoc programátorom, ktorý možno bude prvým krokom k vytváraniu komplexnejšieho malvéru, zatiaľ však v takomto štádiu ešte nie je.
Ako dobre je momentálne nástroj rozvinutý?
ChatGPT je veľmi pôsobivý vzhľadom na to, že ide o veľký jazykový model (LLM), a jeho schopnosti prekvapujú aj samotných tvorcov takýchto typov modelov. V súčasnosti však ešte nejde veľmi do hĺbky, robí chyby, fabuluje (napr. generuje odpovede o tom, čo sa nikdy nestalo) a nie je veľmi spoľahlivý pre žiadnu dôležitú aktivitu.
Zdá sa však, že rýchlo získava na popularite, súdiac podľa húfu technických nadšencov, ktorí ho skúšajú.
Čo v súčasnosti platforma dokáže? Čo sa na nej dá robiť?
Momentálne existujú tri pravdepodobné oblasti, s ktorými by ChatGPT vedel kybernetickým útočníkom pomôcť v ich škodlivých aktivitách:
- Zdokonalenie phishingových útokov
Ak si myslíte, že phishing doteraz vyzeral presvedčivo, len počkajte. Umelá inteligencia zaistí všetko od skúmania viacerých zdrojov údajov a ich plynulého spájania až po chrlenie špeciálne vytvorených e-mailov, ktoré bude veľmi ťažké odhaliť na základe ich obsahu, čím si útočníci získajú aj viac kliknutí. E-maily pritom nebudete môcť narýchlo zavrhnúť z dôvodu gramatických či štylistických chýb; použitie vášho rodného jazyka v nich bude pravdepodobne na lepšej úrovni, než na akej ho ovládate vy. Keďže veľká časť najhorších útokov sa začína práve kliknutím na priložený odkaz, očakávajte, že súvisiaci negatívny dopad sa bude ešte zväčšovať. - Automatizácia vyjednávania o výkupnom
S plynulým a prirodzeným vyjadrovaním útočníkov sa ľudia pravdepodobne nestretávajú často, ale ak by svoju komunikáciu trochu vyladili cez ChatGPT, počas vyjednávania by mohli pôsobiť oveľa legitímnejšie, čím by im odpadla nemalá starosť. Dopúšťali by sa tiež menej chýb, na základe ktorých doteraz ochranné mechanizmy vedeli odhaľovať skutočnú totožnosť a polohu útočníkov. - Vylepšenie telefonických podvodov
Vďaka generovaniu čoraz prirodzenejšie pôsobiaceho jazyka budú podvodníci znieť, akoby boli z rovnakej krajiny ako vy a chceli vám naozaj pomôcť. Napokon, takto si na začiatok vedia ľahšie získať vašu dôveru: tým, že ich jazyk sa zdokonalí, budú znieť ako ľudia z danej krajiny.
