AGI (obecná umělá inteligence)
Představa všemocné AI společnost fascinuje a zároveň děsí. V pořadí šestá debata AI horizontů na téma obecné umělé inteligence (AGI) pojednávala o strachu z nové technologie, jenž je utvářen popkulturou, ale také o příležitostech, které vývoj může přinést. Podle diskutujících AI může disponovat vědomím, její vývoj ale také může být nekonečným procesem.
O debatě
Debata proběhla 23. 10. 2024
Moderoval ji Lukáš Kačena z prg.ai
Odkaz na Facebookovou událost
Autorem článku je žurnalista Jiří Labanc
Mluvčími byli
Tomas Mikolov is a scientist working on artificial intelligence research. His main focus is statistical language models. Among his best known results are RNNLM (the world’s first open source library for training neural language models) and word2vec (the first AI project released as open source by Google). He is currently the most cited Czech scientist. After years spent at US corporations like Google and Facebook, he returned to the Czech Republic in 2019, where he leads a research group at CIIRC CTU and also an AI startup.
Mgr. Dita Malečková, Ph.D., earned her degrees in Philosophy and Information Science from Charles University in Prague. She has over a decade of experience lecturing at the New Media Studies Department at Charles University and currently teaches at the Film and TV School of the Academy of Performing Arts in Prague. Her academic interests focus on the intersections of philosophy, media theory, imagination, and art. Since 2019, she has been engaged in working with generative systems, co-creating the projects Digital Philosopher (2019) and Digital Writer (2020-21). In 2024, she published the first Czech co-written book titled „ANIMAL.“
Katarina Kalivodová je původní profesí performerka, působila v divadlech a nezávislých uměleckých uskupeních v Evropě a také jako pedagožka a lektorka (Akadémia umení, Akademie výtvarných umění). Je ředitelkou Společnosti pro kreativitu ve vzdělávání a místopředsedkyní uMĚNÍM – platformy pro kreativní učení. Podílí se na vytváření a rozvoji ekosystémů kreativního vzdělávání v České republice.
Josef Urban is a Czech researcher in automated reasoning and AI. He has worked in the US and Netherlands, and in 2015 returned to Prague, establishing the automated reasoning group at CIIRC CVUT, and later its AI department. His main topic are algorithms that combine reasoning and learning, for example in mathematics. His systems and methods have won several theorem proving competitions and are today used to assist verification of mathematical theories and mission-critical software and hardware systems.
Může lidstvo přežít bez obecné umělé inteligence?
Že obecná umělá inteligence, tedy cíl stejného vědního oboru, „přijde“ během několika následujících let, lze především v poslední době slyšet ze všech stran – nejbližší termíny zpravidla přicházejí od zakladatelů firem, které takové systémy vyvíjejí. Je to logické, v probíhajícím závodu o to, kdo technologii plně ovládne, totiž chtějí přilákat co nejvíce investorů pro financování jejich výzkumu. Příslib „brzkého průlomu“ je namístě.
Definice umělé inteligence však dodnes kvůli posunujícímu se významu není jasně daná. Představa vědců v 50. letech, kdy se vědní obor etabloval, je odlišná od dnešního pojetí, byť takzvaný buzzword AI zůstal stejný. Cílem Alana Turinga bylo vytvořit stroj, s nímž by si mohl zahrát šachy. John von Neumann a další zase chtěli konverzační partnery, kteří by nebyli lidé. Nejvíce přijímaná definice je však ta od Marvina Minskeho – jde o vědní obor, jehož úkolem je naučit stroje dělat věci, které vyžadují inteligence, jsou-li prováděny člověkem. To dnešní AI rozhodně neumí. Zatím.
Strach z vysněného
Jak se v průběhu dekád měnily pohledy na AI, objevila se i rozdělení na slabou a silnou AI. Ekvivalentem silné je pak obecná umělá inteligence (AGI – Artificial General Intelligence), kterou zpopularizoval počítačový vědec Ben Goertzel, otec Zara Goertzela, který se účastní nynější debaty.
„AGI vidím jako kontinuum. GPT a podobné modely se stále zlepšují, ale stále jim chybí skutečné povědomí a abstrakční schopnosti. Myslím si tedy, že vývoj AGI je probíhající projekt – možná nekonečný – který by jednoho dne mohl vést k tomu, že většinu práce bude dělat umělá inteligence. Ale ještě tam nejsme. Stále je lidský druh tou nejobecnější inteligencí na planetě,“ říká Zar Goertzel, který se vývojem umělé inteligence zabývá. Z teoretického hlediska je podle něj dokonalá obecná umělá inteligence pravděpodobně nemožná. „Nelze vypočítat ‚nejlepší‘ věc, kterou je třeba udělat v každém scénáři, pouze pomocí teorie pravděpodobnosti,“ říká Goertzel.
V určitém okamžiku by podle Zara Goertzela systémy umělé inteligence mohly převzít kontrolu a začít dělat většinu práce, kterou děláme v současnosti. „Věřím, že v některých smysluplných ohledech jsou lidé stále za určitou hranicí obecnosti – zejména pokud jde o naši schopnost uvědomovat si své jednání, identifikovat vzory a abstrakce a kreativně je rozvíjet a aplikovat. Mým cílem je vybudovat systémy, které jsou alespoň tak obecné jako lidé ve všech ohledech, na kterých skutečně záleží,“ vysvětluje Goertzel.
AI výzkumník Tomáš Mikolov doplňuje, že obecnou umělou inteligenci chápe jako druh počítače, který dokáže dělat to, co člověk při využití mozku – myslet a řešit problémy. „Osobně jsem zvědavý na stavbu stroje, který je chytřejší než já. A jsem si docela jistý, že je to možné. Myslím, že by bylo skvělé mluvit s někým – nebo něčím – chytřejším než já. Možná bych mohl odhalovat skryté podstaty světa kolem mě,“ říká Mikolov.
Filozofka Dita Malečková míní, že AGI je stále jen myšlenka, sen o univerzálním poznání. „Žijeme ve snu, který se stává skutečností. To nás děsí. A ten strach vypovídá víc o nás než o strojích. Promítáme to, co známe, do neznáma. Lidé Jako Alan Turing si představovali stroje, které by dokázaly myslet – nejen racionálně, ale jako lidé nebo i lépe. „Je důležité si uvědomit, že moderní AI je dítětem druhé světové války. Bez vojenských technologií a financování by neexistovala. Umělá inteligence má tedy kořeny ve válečné technologii,“ říká Malečková.
„Nyní se všichni bojí, že nás AGI předčí a bude nás ignorovat. Populární kultura tento strach živí. Stačí se podívat na umělou inteligenci ve filmech, kde se stroje osvobozují a bouří se proti lidem. Bojíme se toho, co jsme si vysnili,“ říká Malečková. Podle ní AGI zjevně nebude – navzdory možnému zevnějšku – osobou, ale spíše se bude podobat kolektivní mysli či neurčitému super organismu, síťové entitě. „Věřím, že AGI bude mít i své vědomí, i když nemusí být snadné jej rozpoznat, protože bude z podstaty radikálně odlišné od našeho,“ tvrdí.
Zar Goertzel doplňuje, že je důležité přijít na způsob testování vědomí umělé inteligence. „Potřebujeme protokoly založené na kognitivní vědě pro dynamické testování vědomí systému.“
Namísto logických a emoce postrádajících strojů jsme podle Zara Goertzela prozatím dostali poetické chaotické umělce. „Možná ani netvoříme nic lepšího než my. Jen něco podobného nám.“
Zásadní otázky kolem AGI
Josef Urban z Českého institutu informatiky, robotiky a kybernetiky parafrázuje anekdotu Charlese Strosse, podle něhož již AGI máme, a to v podobě korporací. „Tyto kolektivní mozky maximalizují zisk bez etiky. Je však ironií, že firma OpenAI začínala jako projekt s cílem zabránit ‚maximalizování kancelářských sponek‘, a nyní se stala právě tím, proti čemu vystupovala,“ říká Urban.
Klíčovým krokem k inteligenci strojů je podle Zara Goertzela jejich schopnost kontextualizace. „Je zásadní, aby si systémy více uvědomovaly svůj kontext a provedené akce. Dalšími kroky jsou pravdivost či kombinování neuronových sítí s explicitním uvažováním,“ říká.
Podle Tomáše Mikolova nedává diskuze o AGI smysl, jestliže není zodpovězena důležitá otázka. „Proč bychom ji vlastně chtěli stavět?“ ptá se Mikolov a pokračuje. „Na jedné straně stojí lidé, kteří se AI bojí, na straně druhé nadšenci, podle nichž je úžasná. Jenže oba tábory jsou odpojeny od skutečných důvodů, proč na ní lidé skutečně pracují. Domnívám se, že většina lidí se nesnaží zničit svět. Nepracují na AGI proto, aby nás roboti zabíjeli. Mají úplně jinou vizi, než jakou vidíte v popkultuře,“ myslí si Mikolov.
Podle Tomáše Mikolova je to právě zvědavost, která lidi pohání za budováním AGI. „Velká část motivace pramení z toho, že někteří lidé prostě chtějí vidět nové věci.“
V diskuzích o tomto tématu se dle něj málo akcentuje střet biologické a technologické revoluce. „vyvíjíme stále složitější technologie a děláme to stále rychleji. Při pohledu do historie je zřejmé, že nyní dochází k nějakému zrychlujícímu se vývoji technologií. A každá technologie má dobrou i špatnou stránku. Nic není stoprocentně dobré. Například vynaleznete nový lék, ale jakmile ho začnete vyrábět ve velkém množství, způsobíte znečištění a otrávíte životní prostředí,“ upozorňuje Mikolov.
„Je nepředvídatelné, kam nás technologický vývoj zavede za pár dekád. Stačí se podívat na dnešní ekologické problémy, které před 100 lety neexistovaly. Když si nyní představíme, kde budeme za další století, a to jen na základě obecného technologického pokroku, směřujeme k mnoha problémům.“ Naproti sobě podle Mikolova stojí biologická evoluce, která trvala stovky tisíc a miliony let, a technologická evoluce coby nová forma života, která se ale neřídí stejnými časovými pravidly a vyvíjí se tisícinásobnou rychlostí. „Budujeme svět, který je stále více cizí naší biologické podstatě,“ podotýká.
O přizpůsobivosti lidského mozku na změny a o zkreslení normality mluvil v nedávném rozhovoru i německý novinář Ulrich Schnabel. „Jsme biologické systémy. Každá naše myšlenka je biologický mechanismus. A biologické systémy potřebují čas, aby se přizpůsobily. Nejde jen o to, že něco pochopíme a naše myšlení se náhle změní. Musí se to dostat do našich buněk a celé biologické struktury, což nějakou dobu trvá,“ popisuje v rozhovoru pro Deník N.
Mikolov podotýká, že odpovědí na otázku, proč vyvíjet AGI, je její možný potenciál propojit rychlost biologické evoluce s rychlostí evoluce technologické. „Tedy doslova se propojit s technologií, kterou vytváříme. Namísto abychom se ptali ‚Zničí nás AGI?‘, bychom se měli ptát ‚Může lidstvo přežít bez AGI?‘ Jinak si totiž myslím, že nám technologický svět zkrátka uteče. Budeme žít ve světě, kterému nedokážeme porozumět a který nedovedeme předvídat. A vlastně si myslím, že takový stav už zažíváme. Podívejme se na ekologické problémy – už jsme jimi zahlceni. A jsem předvědčen, že tyto problémy budou exponenciálně růst,“ upozorňuje s tím, že pokud lidstvo brzy nevyvine umělou inteligenci či jiný vyšší druh inteligence, nebude schopno řešit problémy, kterým bude čelit.
Dita Malečková ale poukazuje také na vážná rizika, například v podobě genocidy. „Ideál racionality a optimalizace může vést k děsivým výsledkům. Jedním z potenciálně ‚logických‘ cílů je právě genocida – systematické odstraňování všeho, co je chaotické, neefektivní nebo nekontrolovatelné,“ říká.
Tomáš Mikolov dodává, že zejména v Evropě existuje strach z jakéhokoli pokroku. „Jiné části světa jsou k technologickému pokroku mnohem vstřícnější. V Evropě se každá diskuze o AI točí kolem nebezpečí. Pokaždé jde o regulaci, zpomalování, vyčkávání, jak to všechno dopadne. Zkrátka jen sedět a nedělat nic, protože je to nebezpečné. Z ekonomického hlediska už teď vidíme, že takovýto přístup nefunguje. Uvízli jsme v debatách a představách o Terminátorovi,“ kritizuje.