AI a kyberbezpečnost
Online svět je již neoddělitelnou součástí skutečného života. Ohrožení v digitálním prostředí však číhá na kohokoliv, a s novými nástroji umělé inteligence se rozvíjí jak dovednosti běžných uživatelů, tak podvodníků, kteří na ně útočí. „AI nás přesvědčuje o jedné pravdě. Důležité je vzdělání,“ říká v osmé debatě AI horizontů Petr Jirásek, tentokrát na téma AI a kyberbezpečnost.
O debatě
Debata proběhla 10. 2. 2025
Moderovala ji Klára Karimaghai
Odkaz na Facebookovou událost
Autorem článku je žurnalista Jiří Labanc
Mluvčími byli
Lucie Kosová aktuálně působí ve sdružení CZ.NIC – Safer internet centru ČR, kde se věnuje koordinaci vnějších vztahů se státní a veřejnou správou, specializaci obsahu – kybernetické bezpečnosti a umělé inteligenci ve vzdělávání i lektorské činnosti. Předtím pracovala na ministerstvu vnitra ČR jako gestor prevence kybernetické kriminality a na Národním úřadu pro kybernetickou a informační bezpečnost. Má dlouholeté zkušenosti s prevencí rizikového chování v offline i online prostředí dětí i mladistvých, vzděláváním policistů, sociálních pedagogů, úředníků i pedagogů a s osvětou širší veřejnosti – rodičů i seniorů v oblasti kyberhygieny. Aktivně se podílela na tvorbě vzdělávacích materiálů, pořádání konferencí a odborných eventů. Spolupracuje s klíčovými partnery jakými je AI dětem a další, na iniciativách pro bezpečnost internetu, kyberprostoru i bezpečného
Petr Jirásek je poradce pro kybernetickou bezpečnost & IT,
bezpečnostní lídr, kybernetický evangelista, zakladatel České národní soutěže pro studenty v kybernetické bezpečnosti, místopředseda výkonného výboru EU ENISA ECSC a programový ředitel Centra kybernetické bezpečnosti, z.ú.
Autor a spoluautor či šéfredaktor mnoha publikací především z oblasti bezpečnosti a IT, např. Česko-anglický slovník kybernetické bezpečnosti, Kybernetická bezpečnost a obrana, Víceúrovňová bezpečnost, Příručka bezpečnostního manažera, Standard bezpečnostní konektivity pro školy, Kyberpohádky atd.
Jak AI zasahuje do bezpečnosti v digitálním prostředí
„Časté riziko kyberprostoru se nachází mezi klávesnicí a židlí,“ míní na úvod diskuze Lucie Kosová z organizace Safer Internet Centrum ze sdružení CZ.NIC. „A protože jsme každý individuální, nelze předat konkrétní návod, na co si dát aktuálně v digitálním prostředí největší pozor.“ Celý prostor navíc funguje na základě složitých a neprůhledných algoritmů, velmi často však lidé zapomínají na faktor kritického myšlení. „Proto je důležité kyberprostor nevnímat povrchně, ale snažit se k němu přistupovat s pokorou a obezřetností,“ říká Kosová s tím, že nelze věřit všemu, co v něm lidé vidí a vnímají. „Princip nulové důvěry v kyberprostoru se týká především starší generace, která byla odjakživa zvyklá předloženému obsahu důvěřovat,“ doplňuje Kosová.
Na úvod Lucie Kosové navazuje Petr Jirásek, nezávislý poradce v oblastech kyberbezpečnosti a IT. „Nejslabším článkem jsme skutečně my lidé,“ říká. Na tomto tvrzení staví pět největších hrozeb v oblasti kybernetické bezpečnosti: nevědomost, neinformovanost, neznalost, laxnost a lenost. „Pokud si nejsme vědomi, že vůbec existují rizika spojená s digitálním prostředím, těžko můžeme pracovat na vybudování schopnosti se bezpečně v internetovém světě pohybovat.“ Jirásek tak znovu připomíná důležitost kritického myšlení. Společnost však podle něj rovněž nemůže existovat bez udržování důvěry. „Jestliže ve společnosti nebude nastavena důvěra, na ničem se nedohodne.“ Celoživotní vzdělávání je podle Jiráska prvotní metodou pro práci s riziky a hrozbami v digitálním prostředí.
Demokratizace a užívání digitálních technologií ale může do společnosti přinést nerovnováhu. „Když jsme začali používat mobilní zařízení a počítače, zapomněli jsme u této dovednosti na vlastní soft skills, takzvanou kyberhygienu a návyky, jak s technologiemi pracovat. Domnívám se ale, že nástup umělé inteligence nám může pomoci tuto ztrátu dohnat,“ myslí si Kosová.
Jirásek zmiňuje i kritické argumenty vůči využití AI v kyberprostoru. „Před zveřejněním ChatGPT a podobných nástrojů jsme zadali dotaz do vyhledávače a získali jsme nespočet výsledků a odpovědí, na základě kterých jsme se mohli rozhodovat. Najednou jsme ale skočili do toho, že mě nástroje umělé inteligence přesvědčí o jedné pravdě. Jednoduše řečeno – kdo vyhledávanému tématu rozumí, pro toho je AI ohromným pomocníkem. Kdo ale tématu nerozumí, může dostat odpověď, o které ani neví, že je špatná,“ vysvětluje Jirásek.
Lucie Kosová k tomu dodává, že nové technologie lidem umožňují být efektivnější a ulehčují práci. „Na druhé straně nás však podprahově nutí k tomu, abychom nebyli tak pečliví a pozorní. Vyvstává tedy otázka, jakým směrem se bude profilovat naše aktivní pozornost – tedy zdali vše přenecháme na jazykových modelech a dříve či později naše pozornost začne upadat,“ říká.
Každou technologii lze zneužít
Umělou inteligenci mohou v oblasti kyberbezpečnosti využívat obránci i útočníci. V prvním případě mohou algoritmy AI analyzovat velké množství dat, automatizovat kontrolu malwaru či phishingových útoků a pomáhat při identifikaci zranitelností softwaru a infrastruktur. Kosová míní, že teprve v posledních letech se veřejnost začala zaměřovat na téma ukládání svých dat. „Myslím tím způsoby, jakými v online prostředí šíříme naše data. Když v současné době chceme, aby na našich infrastrukturách běžely nástroje AI, více se zaobíráme tematikou cloudů,“ říká Kosová.
A protože je každá technologie zneužitelná, AI pomáhá útočícím stranám automatizovat i tvorbu zmíněného malwaru a dalšího zavádějícího či lživého obsahu. Navíc AI nástroje demokratizují přístup ke škodlivým technikám i úplným laikům. „Jinými slovy, umělá inteligence umožní podvodníkům se rychle naučit vytvářet škodlivý obsah,“ objasňuje Kosová. Typicky však obránci reagují na útočníky, kteří jsou svými podvodnými technikami o krok napřed.
V minulých letech počet trestných činů v kyberprostoru strmě rostl, kupříkladu mezi roky 2021 a 2022 se jejich počet zdvojnásobil. Loni však klesl o pět procent na 18 495. Stále je to obrovské číslo. Za jeho nepatrným poklesem stojí podle vrchního ředitele vnitřní bezpečnosti ministerstva vnitra Jana Paďourka zesílení prevence i vzdělávání uživatelů. Nutno dodat, že jde o registrované činy, mnoho poškozených podvody kvůli strachu ze sekundární viktimizace ani nenahlásí. Podvést lze v podstatě kohokoliv, jde pouze o to, jakým způsobem to pachatel udělá.
Prevencí k ochraně ale není strach a obava z podvodů. Nejlepším krokem je požádat o pomoc blízkou osobu, která se v digitálním prostředí pohybuje. Vnímat veškerý obsah na internetu jako podvod z nás udělá pouze bojácné a konzervativní uživatele.
Digitální negramotnost
Kosová míní, že starší generace, jež s moderními technologiemi nevyrůstala, vnímá předěl mezi online a offline světem jinak než dnešní mladí lidé. „Podle toho taky přistupují například ke své digitální stopě. Mladší generace je naopak mnohdy obezřetnější než jejich rodiče a starší lidé. Nejenže se současnými technologiemi vyrůstala, ale současně má možnost setkat se s preventivními programy, či se sami dostávají do situací, kdy učí své rodiče a prarodiče pracovat v kyberprostoru.“ Dodává však, že každou skupinu v digitálním prostředí ohrožuje něco jiného.
Že se mladí lidé lépe orientují v digitálním prostředí před hrozbami, však nutně neznamená větší schopnost pracovat se současnými technologiemi – byť je to zpravidla předpokladem, a širší kontext je složitější. Nad generačními rozdíly v práci s digitálními technologiemi se minulý rok zaměřil newsletter Pod čarou, kde autor Matouš Hrdina hledal příčiny rozpadajícího se významu spojení „digitálních domorodců“. Stereotyp, že mladí lidé jsou v zacházení s moderní technikou schopnější než starší lidé, se totiž podle něj v poslední dekádě rozpadá, a mladá generace se naopak potýká s digitální negramotností.
Kromě zaostávajícího IT vzdělávání na školách situaci nezlepšují ani předsudky o automatickém IT talentu mladší generace, která je pak vržena do digitální divočiny. Příčiny lze hledat také v nahrazení složitějších rozhraní intuitivním „swipováním“ na dotykových displejích. V neposlední řadě se technologie před svými uživateli postupně uzavírají způsobem, že do nich již nelze nahlížet či je modifikovat k obrazu svému.
„Zatímco dříve na poli IT technologií dominovaly právě otevřené systémy a platformy, postupem času začaly dominovat ty uzavřené, jejichž dominanci potvrdil rozmach smartphonů a sociálních sítí. Ústředním argumentem byla právě uživatelská jednoduchost a bezpečnost – kam nevlezete, tam nic nezkazíte, a proč byste to ostatně dělali, když vše funguje tak jednoduše a hladce,“ míní v newsletteru Matouš Hrdina s tím, že výrobci se snaží své uživatele dostat do uzavřených ekosystémů, které nejsou kompatibilní s produkty jiných firem.
„Uživatelská jednoduchost se stala univerzálním argumentem podporujícím zavírání technologií, a často je zmiňována i tam, kde to zjevně nedává smysl. Když šéf firmy Nvidia Jensen Huang nedávno prohlásil, že dnešní děti už se nemusí učit programovat, protože si mohou pomoci AI nástroji (běžícími na čipech od Nvidie), vyvolalo to bouřlivou diskuzi, ve které ale často zanikal nejdůležitější význam jeho nápadu – programátoři budou pochopitelně potřeba neustále, ale čím víc lidí bude spoléhat na pomoc AI asistentů, tím víc opět poroste koncentrace moci v rukou hrstky znalců chápajících skutečnou podstatu věci,“ dodává Hrdina.
Budoucnost kyberbezpečnosti ve spojení s AI není možné přesně odhadnout. Období rychlého vývoje může podle Kosové vystřídat stagnace. Nebylo by to ostatní poprvé, již v minulosti umělá inteligence zažila své „zimy“. Jirásek však podotýká, že ruku v ruce půjdou podnikatelské příležitosti a regulace technologií. Vzdělávání v oblastech kyberbezpečnosti by se dle něj mělo dostat do vzdělávacího procesu. „Česká republika má v této oblasti co nabídnout, patříme ke špičce,“ dodává Jirásek.