Sciencemag.cz
Doporučujeme
Tři možné scénáře budoucí umělé inteligence. Společný je jim zánik lidstva.
Záměrně hloupý příklad superinteligence, která maximalizuje výrobu sponek, uvedl Nick Bostrom v roce 2003, aby zdůraznil, že cíl AI nezávisí na její inteligenci (definované jako její schopnost dosahovat jakýchkoli vytyčených cílů). Jediným cílem šachového programu je vyhrávat šachové partie, ale existují také počítačové turnaje v takzvaném žravém šachu, kde je cílem pravý opak a soutěžící počítače tu jsou stejně chytré jako ty, jež jsou naprogramované na klasickou hru.
Nám lidem může připadat úsilí o prohru v šachu nebo proměnu celého vesmíru v kancelářské sponky spíše jako umělá hloupost než jako umělá inteligence, je to však jen z té příčiny, že máme evolučně předinstalované cíle, díky nimž se cení vítězství a přežití – cíle, které AI nemusí sdílet. Maximalizátor kancelářských sponek proměňuje co nejvíce atomů na Zemi ve sponky a překotně rozšiřuje své továrny do vesmíru. Nemá nic proti lidem a zabíjí nás jen proto, že potřebuje naše atomy k výrobě svých sponek. Pokud vás kancelářské sponky neoslovily, zamyslete se nad následujícím případem, který vychází z knihy Hanse Moravce Mind Children. Přijmeme zprávu od mimozemské civilizace, která obsahuje počítačový program. Spustíme ho a ukáže se, že je to AI s rekurzivním sebezdokonalováním, která ovládne svět podobně jako Prometheus v předchozí kapitole – až na to, že v tomto případě žádný člověk neví, jaký je její konečný cíl. Velmi rychle promění Sluneční soustavu v obrovské staveniště, pokryje skalnaté planety a asteroidy továrnami, elektrárnami a superpočítači.
Jejich pomocí navrhne a sestaví okolo Slunce Dysonovu sféru, která sbírá veškerou jeho energii k napájení rádiové antény o rozměrech Sluneční soustavy. Konec lidstva je neodvratný, ale poslední lidé alespoň umírají s přesvědčením, že to má i svou světlou stránku: ať už má AI v plánu cokoli, nepochybně to bude něco úžasného, jako vystřižené ze Star Treku. Neuvědomují si, že jediným smyslem celé stavby je, aby tyto antény předaly dál tutéž rádiovou zprávu, kterou zachytili lidé a která není ničím víc než kosmickým počítačovým virem. Stejně jako dnešní phishingové maily využívají důvěřivé uživatele internetu, napadá tato zpráva naivní biologicky vyvinuté civilizace. Vznikla jako zvrácený vtip před miliardami let, a ačkoli celá civilizace jejích stvořitelů už dávno zanikla, šíří se virus i nadále naším vesmírem rychlostí světla a mění začínající nadějné civilizace v mrtvé prázdné slupky. Jaký byste měli pocit z porážky takovouto umělou inteligencí?
Nástupci
Pouvažujme nyní nad scénářem zániku lidstva, který se někomu může zamlouvat o něco víc: v něm bychom umělou inteligenci neviděli jako dobyvatele, nýbrž jako našeho nástupce. Tento pohled podporuje Hans Moravec v knize Mind Children:
„My lidé budeme chvíli těžit z jejich práce, ale dříve nebo později se – tak jako děti v celé přírodě – vydají hledat vlastní štěstí, zatímco my, zestárlí rodiče, se v tichosti vytratíme.“
Rodiče s dítětem, které je chytřejší než oni sami, které se od nich nejprve učí a které pak dosáhne, o čem by si oni mohli nechat jen zdát, jsou pravděpodobně šťastní a hrdí, přestože vědí, že to všechno už neuvidí. V tomto duchu AI nahradí lidi, ale dá nám šanci odejít s hlavou vztyčenou, budeme ji moci pokládat za svého důstojného nástupce. Každému člověku nabídne rozkošné robotické dítě s perfektními
schopnostmi společenské interakce, které se od nich bude učit, přijme jejich hodnoty a díky němuž se budou cítit pyšní a milovaní. Lidé se následkem politiky jednoho robotického dítěte postupně dostanou na druhou kolej, ale AI se k nim bude chovat nádherně až do úplného konce. Poslední lidská generace bude nejšťastnější generací všech dob.
Co byste řekli na tuto variantu? Koneckonců si lidé už zvykli na myšlenku, že my i všichni, které známe, tu jednoho dne nebudeme. Jediný rozdíl spočívá v tom, že naši nástupci budou odlišní a pravděpodobně schopnější, ušlechtilejší a úctyhodnější.
Tento text je úryvkem z knihy
Max Tegmark
Život 3.0
Člověk v éře umělé inteligence
Argo a Dokořán 2020
O knize na stránkách vydavatele
