(c) Graphicstock

Omezené jsou nejen stroje, ale i my sami

Gödelův důkaz nedokazuje rozdíl mezi člověkem a počítačem (umělou inteligencí).

Možnost trucovitě opakovat Gödelův argument posloužila mnoha lidem jako zbraň při prosazování názoru, že lidské myšlení zahrnuje určité prchavé a těžko pochopitelné prvky, které počítače nedokážou napodobit.

Významným představitelem tohoto postoje byl J. R. Lucas, jehož článek „Minds, Machines, and Gödel“ začíná slovy: Podle mne Gödelova věta prokazuje, že mechanistická filozofie nemá pravdu, to jest, že mysl nelze vysvětlovat jako stroj.

Poté Lucas předkládá zdůvodnění, které si nyní volně převyprávíme. Abychom mohli oprávněně považovat počítač za stejně inteligentní, jako je člověk, musel by být schopen vyřešit každou racionální úlohu, kterou dokáže vyřešit člověk. Lucas dále tvrdí, že počítač není schopen provádět „gödelizaci“ (to je jeden z jeho zábavných neuctivých termínů) tak, jak to dokážou lidé.

A proč by toho nemohl být schopen? Nuže, uvažme konkrétní formální systém, například TNT, TNT + G nebo dokonce TNT + Gω. Můžeme napsat program, a není to nijak obtížné, který bude systematicky vyhledávat teorémy tohoto systému takovým způsobem, že každý libovolně zvolený teorém dříve nebo později vytiskne. To znamená, že program při svém putování „vesmírem“ teorémů nevynechá žádné jeho zákoutí. Takový program by sestával ze dvou částí: (1) z procedury, která do „formiček“ daných schématy axiomů (pokud v systému nějaká jsou) „odlévá“ axiomy, a (2) z procedury, která bere již odvozené teorémy (samozřejmě včetně axiomů), aplikuje na ně odvozovací pravidla a vyrábí teorémy nové. Program by při svém běhu vhodným způsobem přeskakoval mezi první a druhou procedurou.

S antropomorfickým pohledem na věc bychom mohli říct, že popsaný program „zná“ některá fakta teorie čísel — konkrétně ta fakta, která vytiskne. Jestliže program nějaký pravdivý fakt teorie čísel nevytiskne, pak samozřejmě tento fakt „nezná“. Program proto bude horší než lidská bytost v tom případě, když se nám podaří ukázat, že člověk ví něco, co program vědět nemůže. A na tomto místě se Lucas rozjíždí. Říká, že my lidé umíme na systém, který má sílu TNT, vždy aplikovat Gödelovu metodu — a proto víme více než jakýkoli formální systém. Uvedený argument by mohl působit dojmem, že se týká pouze formálních systémů. Je však možné ho mírně upravit do podoby, ve které zdánlivě neotřesitelně vyvrací možnost, že by umělá inteligence mohla napodobit inteligenci člověka. Jádro argumentace je následující:

Rigidní Interní Cívky Exkluzivně Regulují Compy A Roboty; Ergo…

(či trochu srozumitelněji: Počítače a roboty jsou plně řízeny svými strnulými vnitřními kódy; tudíž…)

Počítače jsou izomorfní s formálními systémy, a proto…

Každý počítač, který by chtěl být chytrý tak jako my lidé, by musel ovládat teorii čísel stejně, jako ji ovládáme my, takže…

Mimo jiné by musel zvládat primitivně rekurzivní aritmetiku, avšak právě z tohoto důvodu…

Nevyhnutelně spadne do Gödelovy „pasti“, z čehož plyne, že…

My s naší lidskou inteligencí dokážeme nalézt určité tvrzení teorie čísel, které je pravdivé, ale počítač je právě kvůli bumerangu v podobě Gödelova argumentu slepý a nevidí, že tvrzení je pravdivé (nikdy ho nevytiskne).

Z toho vyplývá, že existuje problém, který nelze naprogramovat na počítači, ale my ho zvládneme. Proto jsme chytřejší.

Vychutnejme si spolu s Lucasem pomíjivou chvilku slávy antropocentrismu:

Ať už zkonstruujeme jakkoli složitý stroj, bude, je-li to opravdu stroj, odpovídat nějakému formálnímu systému, pro který lze provést Gödelovu konstrukci formule nedokazatelné-v-tomto-systému. Stroj nebude schopen tuto formuli vytvořit jako pravdivou, přestože mysl vidí, že pravdivá je. Proto tento stroj nebude náležitým modelem mysli.

Pokoušíme se vyrobit model lidské mysli, který je mechanický, tedy v podstatě „mrtvý“, ale mysl je ve skutečnosti „živá“, a vždy může překonat jakýkoli formální, zkostnatělý a mrtvý systém. Díky Gödelově větě má mysl vždy poslední slovo.

Na první pohled, a možná dokonce i po pečlivější analýze, vypadá Lucasovo zdůvodnění přesvědčivě. Obvykle vyvolává protichůdné reakce. Někteří se ho chopí a považují ho za téměř náboženský důkaz existence duše, podle jiných si ani nezasluhuje komentář a odbudou ho posměchem. Přikláním se k názoru, že Lucasovo zdůvodnění je chybné, jeho vada je však natolik fascinující, že stojí za to věnovat čas vyvrácení jeho argumentace. Byl to koneckonců jeden z hlavních impulzů, abych se začal zabývat tématy, o kterých pojednává tato kniha. Lucasovo zdůvodnění se pokusíme vyvrátit jednak v této kapitole, jednak — odlišným způsobem — v kapitole 17.

Nejdříve se pokusme hlouběji porozumět Lucasově tvrzení, že počítač nelze naprogramovat tak, aby „věděl“ vše, co víme my. Myšlenka je v zásadě založena na tom, že my se nacházíme vně systému a odtamtud můžeme vždy provést operaci „gödelizace“, která vytvoří něco, co program zevnitř nemůže nahlížet jako pravdu. Avšak proč bychom nemohli Lucasův „gödelizující operátor“ naprogramovat a přidat ho do programu jako jeho třetí část? Lucas to vysvětluje takto:

Procedura, pomocí které konstruujeme Gödelovu formuli, je standardní procedura — jenom v takovém případě si můžeme být jisti, že Gödelovu formuli lze zkonstruovat pro jakýkoli formální systém. A jestliže se jedná o standardní proceduru, pak bychom měli být schopni ji naprogramovat také na počítači. … To by odpovídalo situaci, kdy bychom měli systém s dodatečným odvozovacím pravidlem, které by umožnilo odvodit jako teorém nejdříve Gödelovu formuli zbytku systému, poté Gödelovu formuli nového, silnějšího systému a tak dále. Bylo by to stejné, jako kdybychom do původního systému přidali nekonečnou řadu axiomů, přičemž každý z nich by představoval Gödelovu formuli systému vytvořeného v předchozím kroku. …

A nyní bychom mohli očekávat, že mysl vezme v úvahu fakt, že ve stroji je zabudován gödelizující operátor a vygödelizuje tento stroj se vším všudy, i s jeho gödelizujícím operátorem. Ukázalo se, že tomu tak opravdu je. I když k systému připojíme nekonečnou řadu axiomů, které představují po sobě jdoucí Gödelovy formule, výsledný systém je stále neúplný — obsahuje formuli nedokazatelnou-v-tomto-systému, přestože inteligentní bytost, která se nachází vně systému, vidí, že tato formule je pravdivá. Očekávali jsme to, protože i kdybychom přidali nekonečnou řadu axiomů, museli bychom je vymezit nějakým konečným pravidlem nebo popisem. A mysl by tuto skutečnost mohla vzít v potaz a uvážit formální systém rozšířený o toto pravidlo či popis. Dá se říct, že právě proto, že mysl má vždy poslední slovo, je schopna najít vadu každého formálního systému, který jí někdo předloží a tvrdí o něm, že je modelem jejího fungování. Mechanický model musí být nevyhnutelně v jistém smyslu konečný a určitý — a mysl ho proto vždy může překonat.

Nyní, vybaveni touto znamenitou Escherovou metaforou, se vrátíme k problematice program versus člověk. Povídali jsme si o tom, že se můžeme pokusit zabudovat „gödelizující operátor“ do programu samého. Avšak i kdybychom napsali program, který by tuto operaci prováděl, programu by stále unikala podstata Gödelovy metody.

Jak už jsme zmínili, my vně systému můžeme program vždy znovu „odstřelit“ způsobem, jaký on sám neovládá. Ale počkat! Jak to tedy vlastně je? Obhajujeme nyní Lucase, nebo s ním polemizujeme?

S Lucasem rozhodně polemizujeme. Už prostý fakt, že neumíme naprogramovat „gödelizaci“, by v nás měl vzbudit jisté pochyby, zda ji za všech okolností zvládneme my sami. Jedna věc je v abstraktní rovině dovodit, že gödelizaci „lze provést“, druhá věc je vědět, jak to v každém jednotlivém případě skutečně udělat. Ve skutečnosti je to tak, že s rostoucí složitostí formálních systémů (či programů) naše schopnost „gödelizovat“ začne nakonec slábnout.

Musí tomu tak být, protože jak už bylo řečeno, nemáme obecný algoritmický postup, který by popisoval, jak gödelizaci provést. Jestliže neumíme explicitně popsat, co aplikace Gödelovy metody obnáší ve všech možných případech, každý z nás nakonec narazí na tak komplikovaný případ, že zkrátka nedokáže vymyslet, jak Gödelovu metodu aplikovat.

Pochopitelně, že hranice našich schopností není dobře definovaná, podobně jako není dobře definovaná maximální váha, kterou ještě dokážeme zvednout ze země. Zatímco nějaký člověk v určitý den nedokáže zvednout předmět vážící 100 kilogramů, jindy se mu to třeba podaří. Přesto však nikdy nenastane den, kdy by někdo z nás dokázal zvednout předmět o váze 100 tun. A v tomto smyslu platí, že ačkoli hranice pro gödelizaci jsou individuální a mlhavé, pro každého existují systémy, které leží daleko za jeho schopnostmi.

Tento text je úryvkem z knihy:

Douglas R. Hofstadter: Gödel, Escher, Bach
Existenciální gordická balada. Metaforická fuga o mysli a strojích v duchu Lewise Carrolla

Argo a Dokořán 2012

O knize na stránkách vydavatele

obalka_knihy

autor Continentaleurope, zdroj: Wikipedia, licence obrázku GFDL

Proč Čína ztratila zájem o střelné zbraně

Proč si Čína neudržela svůj náskok v oblasti palných zbraní … pokud jde o odpověď, …

Používáme soubory cookies pro přizpůsobení obsahu webu a sledování návštěvnosti. Data o používání webu sdílíme s našimi partnery pro cílení reklamy a analýzu návštěvnosti. Více informací

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close