Sciencemag.cz
Doporučujeme
Usedlíci smíšených oblastí jsou divokou a osobitou směsicí počítačů, robotů, lidí a hybridů…
Max Tegmark ve své knize o umělé inteligence rozlišuje následující scénáře:
- Libertariánská utopie
- Benevolentní diktátor
- Rovnostářská utopie
- Dveřník
- Ochranářský bůh
- Zotročený bůh
- Dobyvatel
- Nástupci
- Ošetřovatel v zoo
- 1984
- Návrat zpět
- Sebedestrukce
***
Začneme scénářem, kdy lidé pokojně koexistují s technologií a v některých případech s ní splývají, jak si to představuje mnoho futurologů i autorů science fiction.
Život na Zemi (a mimo ni – na to se zaměříme v následující kapitole) je rozmanitější než kdy dříve. Když se podíváte na satelitní snímky planety, snadno odlišíte zóny strojů, smíšené a ty čistě lidské. Oblasti strojů tvoří obrovské továrny ovládané roboty a výpočetní střediska bez jakéhokoli biologického života. Cílem je, aby každý atom sloužil co nejefektivněji. Přestože zóny strojů vypadají zvenčí monotónně a fádně, uvnitř překvapivě kypí životem. Ve virtuálních světech se dějí úžasné věci, obrovské výpočty odkrývají tajemství našeho vesmíru a vyvíjejí převratné technologie.
Země je domovem mnoha superinteligentních myslí, které spolu soupeří i spolupracují, a ty všechny obývají zóny strojů.
Usedlíci smíšených oblastí jsou divokou a osobitou směsicí počítačů, robotů, lidí a hybridů všech tří skupin. Futuristé jako Hans Moravec a Ray Kurzweil si představují, že mnoho lidí bude mít technologicky vylepšená těla a stanou se do různé míry kyborgy. Někteří dokonce uploadují své mysli do výpočetního hardwaru, čímž znejasní hranici mezi člověkem a strojem. Většina inteligentních bytostí postrádá stálou fyzickou formu. Místo toho existují jako software, který se dokáže okamžitě přesouvat mezi počítači; ve fyzickém světě se projevují prostřednictvím robotických těl. A protože tyto mysli dokážou snadno kopírovat samy sebe nebo se spojovat, „počet obyvatel“ se neustále mění. Nejsou omezeny fyzickým substrátem, což dává těmto bytostem poněkud odlišný náhled na život. Smýšlejí méně individualisticky, jelikož mohou lehce sdílet vědomosti a prožitky společně s ostatními. Subjektivně se cítí nesmrtelní, protože mohou v okamžiku vytvořit záložní kopie sebe sama. V jistém smyslu není ústřední entitou života mysl, ale prožitek: výjimečné zkušenosti přežívají, protože jsou průběžně kopírovány a užívají si je další a další mysli, zatímco ty nezajímavé jejich majitelé smažou, aby se uvolnilo místo pro lepší.
Ačkoli většina interakcí probíhá z praktických důvodů a kvůli rychlosti ve virtuálním prostředí, mnoho myslí si i nadále užívá interakce a činnosti také prostřednictvím fyzických těl. Tak třeba uploadované verze Hanse Moravce, Raye Kurzweila a Larryho Pagea udržují tradici, kdy se střídají ve vytváření virtuálních realit, které pak společně prozkoumávají, ale jednou za čas se spolu proletí ve skutečném světě po tom, co se nahrají do létajících robotů s ptačími křídly. Některé roboty, kteří se pohybují po ulicích, po nebi a v jezerech smíšených zón, ovládají uploadovaní a vylepšení lidé, kteří se rozhodli vtělit se ve smíšených zónách, jelikož je těší být spolu mezi sebou i s lidmi.
Naopak ve výhradně lidských oblastech jsou zakázány stroje s umělou inteligencí na lidské úrovni (tedy s umělým bytím), nebo dokonce lepší. Stejné omezení platí pro technologicky vylepšené biologické organismy. Tady se život od dnešního stavu příliš neliší, až na to, že vládne mnohem větší blahobyt a pohodlí – chudoba téměř vymizela a existují léky na většinu dnešních chorob. Ten zlomek lidí, kteří si zvolili život v těchto zónách, vlastně existuje na nižší a omezenější úrovni vědomí než všichni ostatní. Příliš nechápou, čemu se věnují ostatní inteligentnější mysli v ostatních zónách, nicméně řada z nich je se svým životem spokojena.
Ekonomika umělé inteligence
Drtivá většina všech výpočtů probíhá v zónách strojů, které z převážné části vlastní bezpočet soupeřících superinteligentních AI, které tam žijí. Už z titulu jejich nadřazené inteligence a lepší technologie se jim ostatní entity nemohou rovnat a jejich moc je neochvějná. Tyto AI se dohodly na vzájemné spolupráci a koordinaci v rámci libertariánského systému správy, v němž neplatí žádná pravidla kromě ochrany osobního vlastnictví. Tato vlastnická práva platí pro všechny inteligentní entity včetně lidí a vysvětlují, jak vznikly oblasti obydlené výhradně lidmi. Už na začátku vznikly skupinky lidí, které se rozhodly, že v jejich zónách bude zakázáno prodávat majetek ne-lidem.
Díky své technologii se superinteligentní AI staly bohatšími než lidé – jejich převaha je mnohonásobně větší, než je majetková převaha Billa Gatese nad žebrajícím bezdomovcem. Nicméně lidé v těchto výlučně lidských oblastech jsou na tom po materiální stránce i tak mnohem lépe než většina dnešní populace. Jejich ekonomika není příliš napojená na ekonomiku ovládanou stroji, a tak má na ně existence strojů v ostatních zónách jen malý vliv. Příležitostnou výjimku představují užitečné technologie, které dokážou pochopit a sami reprodukovat, podobně jako dnes mají amišové a různé domorodé kmeny, jež odmítají technologie, životní úroveň alespoň stejně vysokou jako za starých časů. Nezáleží na tom, že lidé nemohou strojům nabídnout nic, co by od nich stroje potřebovaly koupit, protože od nich nepotřebují nic na oplátku.
Ve smíšených sektorech je rozdíl v bohatství mezi AI a člověkem zřetelnější, takže ceny půdy (jediná komodita vlastněná lidmi, kterou stroje chtějí koupit) jsou ve srovnání s jinými produkty závratně vysoké. Většina lidí, kteří půdu vlastnili, proto prodala malý zlomek z ní strojům výměnou za základní nepodmíněný příjem pro sebe a své potomky (nebo uploady) navěky. Tím se osvobodili od nutnosti pracovat a získali volnost užívat si úžasnou hojnost levného, stroji vyráběného zboží a služeb, a to jak ve skutečné, tak ve virtuální realitě. Co se strojů týče, smíšené zóny jsou spíše určené na hraní než na práci.
Proč k tomu nikdy nemusí dojít
Než se ale příliš nadchneme představou všech těch dobrodružství, která bychom jako kyborgové nebo uploady mohli zažít, zamysleme se nad některými důvody, proč se tento scénář nemusí nikdy naplnit. Zaprvé: k vylepšeným lidem (kyborgům i uploadům) vedou dvě cesty:
1. Na to, jak je vytvořit, přijdeme sami.
2. Postavíme superinteligentní stroje, které na to přijdou za nás.
Pokud nejdříve nastane první varianta, mohlo by to přirozeně vést ke světu překypujícímu kyborgy a uploady. Ovšem jak už jsme říkali v minulé kapitole, většina odborníků se domnívá, že pravděpodobnější je možnost druhá, protože vytvořit vylepšený či simulovaný digitální mozek je komplikovanější, než vyvinout nadlidskou AGI na jiné bázi – podobně jako bylo obtížnější sestrojit mechanické ptáky než klasická letadla. Až vznikne silná AI, vůbec není jasné, že dojde na vývoj kyborgů nebo uploadů. Kdyby neandertálci měli dalších 50 000 let na to, aby se vyvíjeli a zvyšovali svou inteligenci, mohlo to s nimi dopadnout skvěle, ovšem Homo sapiens jim tolik času nedal.
Zadruhé: i kdyby se tento scénář s kyborgy a uploady opravdu naplnil, není jisté, že by byl stabilní a že by vydržel. Proč by měla rovnováha sil mezi mnoha superinteligencemi zůstávat stabilní po celá tisíciletí, místo aby nejchytřejší (nebo nějaká aliance) převládla? Proč by také měly stroje respektovat vlastnická práva lidí a nechat je být, když je k ničemu nepotřebují a když samy dokážou odvést jejich práci lépe a levněji? Ray Kurzweil odhaduje, že „přirození“ i vylepšení lidé budou před vyhubením ochráněni, protože „umělá inteligence bude člověka respektovat kvůli tomu, že dal strojům vzniknout“. Ale jak uvidíme v kapitole 7, nesmíme se chytit do pasti antropomorfizace a předpokládat, že AI může pociťovat emoce podobné lidským, v tomto případě vděčnost. Ani my lidé se svým sklonem ke vděku neprojevujeme dost vděčnosti stvořiteli našeho intelektu (tedy naší DNA), když maříme jeho cíle užíváním antikoncepce.
I kdybychom věřili domněnce, že se umělé inteligence rozhodnou ctít vlastnická práva lidí, mohou postupně získat značnou část naší půdy jinými způsoby. Stačilo by jim coby superinteligentním bytostem využít něco ze svých přesvědčovacích schopností, které jsme viděli v minulé kapitole, a přimět lidi k prodeji kusu země za život v přepychu. V čistě lidských sektorech by mohly nalákat obyvatele ke spuštění politických kampaní za povolení prodeje půdy. Koneckonců i zatvrzelí bio-luddité mohou chtít prodat část pozemků, aby zachránili život nemocnému dítěti nebo aby dosáhli nesmrtelnosti. Pokud jsou lidé vzdělaní, zaneprázdnění a mají dost zábavy, klesající porodnost může ještě víc zmenšit velikost populace i bez vměšování strojů – jako se to ostatně nyní děje v Japonsku a Německu. Takto by lidé mohli vyhynout za pouhých pár tisíc let.
Nevýhody
Pro některé nejhorlivější zastánce představují kyborgové a uploady příslib technologické blaženosti a prodloužení života pro všechny. Vidina, že je v budoucnu uploadují, motivovala už více než stovku lidí k tomu, aby nechali posmrtně zmrazit své mozky arizonskou společností Alcor. I kdyby se ale tahle technologie objevila, není vůbec jasné, že bude dostupná pro každého. Pravděpodobně ji bude používat několik nejbohatších, ale co ostatní? I kdyby ta technologie zlevnila, kudy vést hranici? Uploadovat lidi s těžkým poškozením mozku? Uploadovat každou gorilu? Každého mravence? Každou rostlinu? Každou bakterii? Bude se budoucí civilizace chovat jako obsesivně-kompulzivní chamtivec, který se snaží uploadovat všechno, nebo dojde jen na pár zajímavých vzorků každého druhu v duchu Noemovy archy? Možná jen několik reprezentativních příkladů každého typu člověka? Nesrovnatelně inteligentnější entitě by se uploadovaný člověk mohl zdát asi tak zajímavý jako simulovaná myš nebo červ. Přestože dnes máme technologické možnosti oživit staré tabulkové procesory z 80. let v emulátoru DOSu, většině z nás to nepřipadá dost zajímavé, abychom se tím zabývali.
Mnoha lidem se nemusí scénář libertariánské utopie zamlouvat, protože připouští utrpení, jemuž se dá předejít. Jelikož jediným nedotknutelným principem jsou vlastnická práva, nic nebrání tomu, aby utrpení dnešního světa v lidských a smíšených zónách pokračovalo. Některým se bude dařit skvěle, zatímco jiní mohou skončit ve špíně jako smluvní otroci, trpět násilím, strachem, útlakem nebo depresí. Třeba román Marshalla Braina Manna z roku 2003 líčí, jak pokrok umělé inteligence v libertariánské ekonomice vede k tomu, že se většina Američanů stane nezaměstnatelnými. Budou odsouzeni k tomu, aby prožili zbytek svých životů v šedivém a pochmurném projektu sociálního bydlení provozovaném roboty. Podobají se hospodářským zvířatům – krmí je, udržují zdravé a v bezpečí ve stísněných podmínkách, aby nebyli na očích těm šťastnějším. Antikoncepční přípravky ve vodě brání jejich reprodukci, a tak je většina populace vyřazena ze hry, aby zbylým zůstal větší podíl z bohatství vytvářeného roboty.
Ve scénáři libertariánské utopie nemusí trpět jen lidé. Pokud jsou některé stroje nadány vědomím a emocemi, mohou trpět i oni. Pomstychtivý psychopat by například mohl legálně vzít uploadovanou kopii svého nepřítele a podrobit ji nejpříšernějšímu mučení ve virtuálním světě, vytvořit bolest o takové intenzitě a trvání, která značně přesahuje biologické možnosti ve skutečném světě.
Tento text je úryvkem z knihy
Max Tegmark
Život 3.0
Člověk v éře umělé inteligence
Argo a Dokořán 2020
O knize na stránkách vydavatele
