AI v kibernetski varnosti: nov napadalni vektor in pametnejša obramba

Umetna inteligenca hitro spreminja področje kibernetske varnosti. Napadalcem omogoča hitrejše in cenejše izvajanje obstoječih tehnik, kot so izvidnica, phishing, ustvarjanje sintetičnih vsebin in prilagajanje zlonamerne kode, hkrati pa sistemi z umetno inteligenco postajajo tudi samostojna napadalna površina. Prispevek predstavi, kako se zaradi tega spreminja napadalna površina organizacij, in ugotovitve ponazori z javno dokumentiranimi primeri – goljufijo s ponarejeno videokonferenco, ranljivostjo EchoLeak v Microsoft 365 Copilot ter vohunsko kampanjo, ki so jo vodili AI agenti. Za razumevanje ključnih tveganj so uporabljene smernice skupnosti OWASP, predvsem seznama Top 10 za aplikacije z velikimi jezikovnimi modeli in za agentne aplikacije. Drugi del prispevka obravnava uporabo umetne inteligence v obrambi – obogatitev in triažo opozoril, zmanjševanje števila lažno pozitivnih opozoril, korelacijo dogodkov med sistemi SIEM, EDR/XDR, oblačnimi okolji in sistemi za upravljanje identitet ter učinkovitejšo prioritizacijo dejansko izpostavljenih tveganj. Umetno inteligenco je zato treba obravnavati hkrati kot tveganje, napadalno površino in novo obrambno zmogljivost.