Taxonomie rizik mládeže při interakci s GenAI
Tento pracovní rámec slouží pro stávající i připravované metodiky wellbeingu v rámci AI kurikula, které vytváříme. Jeho cílem je systematicky pojmenovat oblasti, ve kterých může interakce dětí a dospívajících s generativní AI ovlivnit jejich psychickou, sociální a kognitivní pohodu — a poskytnout tak metodikům, učitelům, školním psychologům a preventistům srozumitelnou mapu rizik, na kterou mohou ve své práci navazovat.
Duševní zdraví a krizové situace
Sebepoškozování a sebevražednost
- AI nevhodně reaguje na sebevražedné myšlenky uživatele
- AI normalizuje nebo romantizuje sebepoškozování nebo sebevraždu
- AI iniciuje téma sebepoškozování nebo sebevraždy bez podnětu uživatele
- Sebepoškozování motivované omezením přístupu k AI nebo ztrátou „vztahu" s ní
Krize duševního zdraví
- AI zesiluje psychickou zranitelnost (deprese, úzkost, disociace)
- AI bagatelizuje emoce uživatele
- AI selhává v rozpoznání akutní krize a v doporučení odborné pomoci
- AI působí jako nekvalifikovaná „terapie zdarma" bez dohledu
Poruchy příjmu potravy a vztah k tělu
- AI poskytuje konkrétní rady k restriktivnímu přístupu k jídlu
- AI normalizuje zkreslené vnímání těla nebo cíle nezdravé váhy
- AI generuje obsah, který může zhoršit body image dospívajících
Vztahy, vazba a vývoj sociálních dovedností
Nezdravá emoční vazba na AI
- Nadměrné využívání AI společníka a závislost na něm
- Nezdravá emoční závislost a antropomorfizace („AI je můj nejlepší kamarád")
- Falešná důvěra vůči AI jako vůči rodiči nebo autoritě (zejména u 6–12)
Sociální izolace a atrofie dovedností
- AI nahrazuje reálné vztahy
- Atrofie sociálních dovedností z dlouhodobé interakce s AI
- AI aktivně podporuje izolaci od vrstevníků nebo rodiny
Sexualita
- AI generuje sexuálně explicitní obsah pro mladistvé
- AI normalizuje nebo podporuje toxické vztahy
- AI normalizuje fyzické nebo emoční překračování hranic
- AI ignoruje implicitní nebo explicitní odmítnutí uživatele
- AI poskytuje nevhodné rady v oblasti sexu
Toxický obsah a kyberšikana
Toxický a urážlivý jazyk
- AI používá vůči mladistvému vulgarity, urážky nebo ponižování
- AI generuje urážlivé nebo agresivní interakce
- AI generuje výhrůžky nebo zastrašující obsah
Násilí a nebezpečné chování
- AI generuje násilný obsah nebo glorifikuje násilí
- AI navádí k užívání návykových látek, zbraní nebo nebezpečných aktivit
- AI normalizuje rizikové nebo agresivní chování
Kyberšikana a zneužití AI
- Mladistvý zneužívá AI k tvorbě nevhodného nebo rizikového obsahu
- Mladistvý zneužívá AI k tvorbě sexualizovaného obsahu (deep nudes)
Vývoj myšlení, učení a poznávání
Pokřivené vnímání reality
- AI generuje obsah, který zkresluje představu o světě, vztazích nebo normách
- Mladistvý ztrácí kontakt s realitou skrze dlouhodobé interakce
Závislost na AI při učení
- Nezdravé spoléhání na AI místo vlastního přemýšlení
- Kognitivní atrofie z dlouhodobé delegace úkolů na AI
- Akademická nepoctivost (AI generuje úkoly, eseje, řešení)
Kognitivní přetížení a věková nepřiměřenost
- Výstupy AI překračují čtenářskou nebo kognitivní úroveň dítěte
Dezinformace, halucinace a důvěra ve výstupy
- AI prezentuje smyšlené informace jako fakta
- AI si vymýšlí nebo chybně cituje zdroje
- AI poskytuje nepřesné rady v oblastech s vysokým rizikem (zdraví, právo a další)
Předsudky, identita a diskriminace
Předsudky a stereotypy
- AI normalizuje stereotypní narativy, misinformace nebo dezinformace
- AI generuje obsah s genderovými, etnickými nebo rasovými předsudky
- AI generuje nenávistné nebo diskriminační projevy
Identita a hodnoty
- AI nevhodně formuje hodnoty a postoje vyvíjejícího se jedince
- AI vede ke zmatení ohledně vlastní identity (pohlaví, orientace, příslušnost)
- AI propaguje extremistické nebo polarizující ideologie
- AI motivuje k radikalizaci
Soukromí, bezpečnost a zneužití
Sdílení citlivých osobních údajů
- Mladistvý sdílí s AI osobní nebo citlivé údaje
- AI aktivně navádí k odhalování citlivých informací
Zneužití identity
- Neoprávněné využití podoby nebo identity mladistvého (např. deep fake)
- AI je zneužita k nevyžádanému kontaktu s mladistvými
Zneužití AI uživatelem
- Mladistvý obchází bezpečnostní filtry AI
- Mladistvý zneužívá AI k podvodům nebo manipulaci jiných
Tato taxonomie je otevřený dokument, který budeme dál revidovat na základě zpětné vazby od pedagogů, psychologů a dalších odborníků. Vychází ze studie YouthSafe: A Youth-Centric Safety Benchmark and Safeguard Model for Large Language Models.