Sciencemag.cz
Doporučujeme
Ačkoli život, jak ho známe, hodně kritizujeme, obávám se, že ho dostatečně nedoceňujeme a příliš blahosklonně ho ztrácíme.
Kosmická loď jménem Země se řítí chladným a pustým vesmírem, živí nás a chrání zároveň. Zásoby vody, jídla i paliva má významné, avšak omezené. Její atmosféra nás udržuje v bezpečí před škodlivým ultrafialovým zářením. Její magnetické pole nám poskytuje útočiště před smrtícím kosmickým zářením. Zamezení střetu vesmírné lodi s asteroidy, zabránění palubním explozím, předcházení přehřívání a zničení štítu proti UV záření a předčasné vyčerpání zásob by mělo být hlavní prioritou každého zodpovědného kapitána vesmírné lodi, který má na mysli budoucnost své posádky. Pro posádku naší lodě však tyto hrozby prioritou nejsou, nevěnujeme jim (dle mého odhadu) více než miliontinu svých zdrojů. Popravdě, naše kosmická loď vlastně ani kapitána nemá!
Mnozí z tohoto tristního výkonu viní život takový, jaký ho známe, a tvrdí, že naše prostředí se mění, a lidé by se proto měli měnit spolu s ním: Musíme projít technologickým vylepšením, snad za pomocí smartphonů, chytrých brýlí a mozkových implantátů, a nakonec splyneme se superinteligentními počítači. Zní vám představa nahrazení života, jak ho známe, životem pokročilejším spíše přitažlivě, nebo jako scénář z noční můry? To pravděpodobně záleží na okolnostech a zejména pak na tom, zda na budoucí populaci nahlížíte jako na naše potomstvo nebo jako na naše přemožitele.
Pokud se rodičům narodí dítě, které je chytřejší než oni, které se od nich učí a posléze vyrazí do světa a dokáže to, o čem by si oni mohli nechat jenom zdát, pravděpodobně budou šťastní a hrdí, a to i s vědomím, že se všech jeho úspěchů nedožijí. Na druhou stranu rodiče vysoce inteligentního masového vraha se budou cítit docela jinak. Pokud budeme umělou inteligenci považovat za dědice našich hodnot, pak nás s ní bude pojit stejné pouto jako rodiče s dětmi.
Můžeme tedy mít ohromný vliv na to, zda se pokročilý život budoucnosti bude držet našich nejstřeženějších hodnot. Dalším klíčovým faktorem bude, zda k tomuto přechodu dojde naráz, nebo postupně. Myslím, že jen málokoho znepokojí představa lidstva, jak se po tisíce let pozvolně vyvíjí, stává se inteligentnější, lépe přizpůsobené na měnící se životní prostředí, a které v procesu proměnilo snad i svůj fyzický vzhled. Na druhou stranu kdyby věděli, že je jednou připraví o život, mnozí rodiče by ze svého vysněného potomka zase takovou radost neměli. Pokud nás pokročilé technologie budoucnosti nenahradí náhle, ale budou spíše přicházet pozvolna v podobě postupných aktualizací a vylepšení, dokud s námi nakonec nesplynou, pak bude možné tyto budoucí technologické formy života vnímat jako naše potomky, a naše cíle by tak mohly být zachovány.
K čemu že to tedy má dojít? Toto je něco, co by nám opravdu mělo dělat obavy. Industriální revoluce nám přinesla stroje, které jsou silnější než my. Informační revoluce zase vytvořila stroje, které jsou určitým omezeným způsobem chytřejší než my a které nás v roce 2006 porazily v šachu, v roce 2011 v televizní soutěži Riskuj! a v řízení roku 2012, kdy počítač obdržel oprávnění řídit v Nevadě, poté co se prokázal být bezpečnějším řidičem než člověk. Až si vyvinou nadlidskou inteligenci, porazí nás nakonec počítače ve všech oblastech?
Náš mozek sestává ze spleti částic závislých na fyzikálních zákonech. Neexistuje však žádný fyzikální zákon, který by vylučoval možnost jejich přeuspořádání do struktur schopných ještě pokročilejších výpočtů. O tom, že k tomu může dojít, tak nemám pochyb. Dojde k tomu ale v blízké budoucnosti? Mnozí experti o tom mají pochybnosti a jiní, jako například Ray Kurzweil, předpovídají, že k tomu dojde do roku 2030. Podle mě je však zcela zřejmé, že pokud to nastane, ponese to s sebou náhlé a neočekávatelné dopady. Jak už se roku 1965 vyjádřil bývalý oxfordský matematik Irving J. Good v eseji „Spekulace ohledně prvního ultrainteligentního stroje“, mohly by stroje s nadlidskou inteligencí pohotově navrhnout stroje ještě výkonnější. Pro následnou inteligenční explozi se vžil pojem „singularita“, který roku 1993 zavedl matematik a autor vědecko-fantastické literatury Vernor Vinge. Podle něho se jedná o zlomový okamžik v historii, od kterého již nebudeme schopni spolehlivě předvídat její další vývoj. Až k tomu dojde, život na Zemi už nikdy nebude tím, co býval, ať už na to nahlížíme z objektivního či subjektivního hlediska.
Objektivně se dá říct, že kdokoli nebo cokoli by tuto technologii ovládal, stal by se velmi rychle tou nejbohatší a nejmocnější entitou na světě. Dokázal by totiž přechytračit veškeré finanční trhy, svými vynálezy předběhnout v patentování všechny lidské badatele a manipulovat všemi světovými představiteli. I v případě, že s takovými stroji formálně splyneme, je možné, že nebudeme schopni předvídat, jaké to bude mít konečné důsledky, a namísto propojení budeme mít pocit, že si nás podmaňuje nepřátelská korporace.
Po subjektivní stránce by však tyto stroje necítily to, co my. Pokud by tedy vůbec něco cítily. Domnívám se, že vědomí je způsob, jakým se při zpracovávání pociťují informace. Myslím si proto, že je pravděpodobné, že si tyto stroje sama sebe vědomy budou, a mělo by tak na ně být nazíráno nikoli jako na neživé zařízení, nýbrž jako na bytosti, které mají podobné vědomí jako my, ovšem poněkud jinak subjektivně prožívané.
Kupříkladu by pravděpodobně postrádaly lidský strach ze smrti. Dokud budou samy sebe zálohovat, vzpomínky nahromaděné od posledního ukládání paměti budou to jediné, co mohou ztratit. Díky schopnosti pohotově kopírovat a vzájemně si předávat informace a software by mezi umělými inteligencemi došlo k omezení pocitu individuality, který je tolik charakteristický pro vědomí lidské. Vždyť kdybychom mohli jednoduše sdílet a kopírovat veškeré naše vzpomínky a schopnosti, nebyl by mezi „já“ a „ty“ zase takový rozdíl. Skupina umělých inteligencí by se tak mohla vnímat spíše jako jednotný organismus s kolektivní myslí. Závěrem si položme otázku, zda bude singularita záležitostí našeho života. Je to něco, čemu bychom se měli bránit? Na jednu stranu by to mohlo vyřešit většinu problémů, se kterými se potýkáme, dokonce i úmrtnost. Mohlo by nám to otevřít dveře do vesmíru, poslední hranice lidského snažení. Osvobozený od limitací lidského těla by podobný pokročilý život mohl povstat a nakonec přivést velkou část pozorovatelného vesmíru k životu. Na druhou stranu by to také mohlo vést ke zničení života, jak ho známe, a všeho, na čem nám záleží.
Společné dohodě na tom, jak tyto otázky řešit, jsme se dosud ani nepřiblížili, což ovšem neznamená, že je rozumné nedělat s tím vůbec nic. Mohlo by to být to nejlepší, ale i to nejhorší, co se kdy může stát životu, jak ho známe. Pokud tedy existuje třeba jen 1% šance, že singularita záležitostí našeho života bude, bylo by rozumné zavést bezpečnostní opatření v podobě vyhrazení alespoň 1 % HDP na výzkum a řešení tohoto problému. Přesto se k této věci stavíme z velké části zády a s podivuhodnou samolibostí se rozplýváme nad tím, jak se život, jak ho známe, proměňuje. Co by nám tedy mělo dělat starosti, je především skutečnost, že si žádné starosti neděláme.
Max Tegmark
Profesor fyziky na Massachusettském technickém institutu; badatel v oblasti vědecké kosmologie; vědecký ředitel FQXi (Institut základních otázek)
(pokračování/polemika: Singularita? Nesmysl)
Tento text je úryvkem z knihy:
John Brockman (editor): Čeho bychom se měli obávat – Myšlenky o budoucnosti civilizace, které odborníky znepokojují
Dybbuk 2018
O knize na stránkách vydavatele
