Umelá inteligencia (AI) mení svet kybernetickej bezpečnosti závratnou rýchlosťou. Na konferencii Judgment Day 2024, ktorá sa konala v Bratislave, sa stretli poprední odborníci na kyberbezpečnosť, aby diskutovali o súčasných trendoch a výzvach v oblasti umelej inteligencie (AI) a jej vplyve na bezpečnosť. Panelová diskusia s názvom „Je AI hrozba alebo ochrana?“ bola jedným z kľúčových momentov konferencie, pričom jej cieľom bolo preskúmať, či je AI viac prínosom pre obranu proti kybernetickým hrozbám alebo predstavuje riziko pre bezpečnosť.
Je AI kľúčom k bezpečnosti?
S rastúcou integráciou AI do každodenných pracovných činností prichádzajú nové možnosti, no aj výzvy, o ktorých diskutovali odborníci ako Andrej Jeleník (Cisco), Dušan Petričko (Slovenská sporiteľňa), Vladimír Frčo (Alanata), Ivan Makatura (Kompetenčné a certifikačné centrum kybernetickej bezpečnosti) a Stephanie Hare (medzinárodná expertka na etiku v AI a technológie). Panelovka bola zameraná na posúdenie potenciálnych hrozieb, ktoré AI prináša, a na hľadanie spôsobov, ako využiť jej silu na zlepšenie kybernetickej bezpečnosti.
Pomoc pre bezpečnostné tímy
Dušan Petričko, Information Security Specialist zo Slovenskej sporiteľne, vysvetlil, ako môže AI pomôcť pri zlepšovaní interných procesov a pri detekcii hrozieb v reálnom čase. Má rozsiahle skúsenosti v nasadzovaní automatizačných riešení pre kybernetickú bezpečnosť. „AI môže premeniť výzvy na príležitosti. Môže nám poskytovať dôležitú spätnú väzbu a podporiť špecialistov pri detekcii útokov,“ skonštatoval. Poukázal tiež na to, že vďaka automatizovaným riešeniam môžu bezpečnostné tímy efektívnejšie reagovať na incidenty, čo zvyšuje celkovú bezpečnosť.
Medzi príležitosťami a hrozbami
Andrej Jeleník, Cisco Solution Architect zo spoločnosti Cisco má bohaté skúsenosti v oblasti kybernetickej bezpečnosti, ktoré ho vedú k opatrnosti pri nasadzovaní AI, hoci uznáva aj jej prínosy. „AI nám rozhodne prináša mnoho výhod, no vidím aj množstvo rizík, najmä v oblasti zneužitia technológií. Útočníci majú vďaka AI lepší prístup k sofistikovanejším nástrojom,“ poznamenal Jeleník.
Hrozby zo strany útočníkov
SOC bezpečnostný špecialista Vladimír Frčo z Alanata upozornil, že rovnaké nástroje, ktoré využívame na obranu, môžu byť dostupné aj útočníkom. „AI poskytuje útočníkom možnosť rýchlejšie vyvíjať nové typy útokov. Prístup k nástrojom, ktoré predtým vyžadovali spoluprácu viacerých ľudí, má dnes vďaka AI jednotlivý útočník,“ povedal Frčo. Upozornil, že práve efektívnosť a rýchlosť AI sú dôvodom, prečo počet útokov narastá.
Chcete vedieť viac o riešeniach pre kybernetickú bezpečnosť, ktoré poskytujeme? Kontaktujte nás
Certifikácia a bezpečnostné normy
Ivan Makatura, predseda predstavenstva a generálny riaditeľ Kompetenčného a certifikačného centra kybernetickej bezpečnosti sa zameral na otázku certifikácie AI systémov. „Certifikácia umelej inteligencie je zložitý proces, najmä preto, že AI sa neustále vyvíja. To, čo certifikujete dnes, nemusí zajtra spĺňať pôvodné technické špecifikácie. Preto je potrebné pristupovať k certifikácii dynamicky a neustále ju aktualizovať,“ uviedol Makatura. Zdôraznil, že certifikácia by mala byť podporovaná aj auditmi a dôkladným testovaním, aby bolo zaručené, že systémy AI fungujú bezpečne a spoľahlivo.
Etické výzvy umelej inteligencie
Záver panelovej diskusie sa sústredil na etické otázky spojené s používaním AI. Stephanie Hare sa dlhodobo venuje otázkam etiky v technologickom prostredí, pričom svoje poznatky prezentuje na medzinárodných fórach. Hovorila o troch základných princípoch, ktoré by mali byť dodržiavané pri zavádzaní AI – transparentnosť, vysvetliteľnosť a zodpovednosť. „Je dôležité, aby sme vedeli, na akých dátach je AI vytrénovaná, a aby bol zavedený mechanizmus zodpovednosti za chyby alebo škody spôsobené nesprávnym použitím AI,“ povedala Hare. Zdôraznila, že tieto princípy musia byť súčasťou každého projektu, ktorý zahŕňa AI, aby sa predišlo vážnym chybám a zneužitiu.
Príležitosť alebo hrozba?
Panelová diskusia počas Judgment Day 2024 ukázala, že AI je mocným nástrojom, ktorý môže zlepšiť bezpečnosť, no zároveň prináša nové riziká. Odborníci sa zhodli, že kľúčom je nájsť správnu rovnováhu medzi využívaním AI na ochranu a zvládaním hrozieb, ktoré táto technológia môže spôsobiť.
Umelá inteligencia bude hrať čoraz väčšiu úlohu v oblasti kybernetickej bezpečnosti, a preto je nevyhnutné, aby firmy a organizácie pochopili jej potenciál a zároveň boli pripravené čeliť etickým a bezpečnostným výzvam, ktoré so sebou prináša.
