Foto: kentoh / Dollar Photo Club

Chatbot mluví za mrtvého

Na webu The Verge popsala Casey Newton příběh dvou přátel (Eugenia Kuyda a Roman Mazurenko). Peripetie pomiňme, podstatné pro nás budiž to, že po Mazurenkově smrti se Kuyda rozhodla zkusit vytvořil jeho digitální reprezentaci a tímto způsobem ho znovuoživit.
Příslušná reprezentace má podoba chatbota. Zdrojem pro vstupní data a slovník byly především Mazurenkovy e-maily a SMS zprávy a i když tvorba aplikace mezi Mazurenkovými známými původně budila smíšené reakce, nyní si s chatbotem povídá i matka zemřelého. Ne že by aplikace byla nějak dokonalá a už vůbec nešlo o to, aby měla cokoliv na způsob vědomí. Však jde o těžší verzi Turingova testu: nejenom simulovat člověka, ale dokonce konkrétního člověka. Nakonec Mazurenkovi přátelé prý spíše chtějí, aby jim chatbot naslouchal, než aby jim něco říkal a např. jim sděloval názory mrtvého na aktuální události.
Vzpomeňme na první program tohoto typu vůbec, Elizu, která konverzovala prakticky jen tak, že přeuspořádávala věty na druhé straně (na X zareagovala např. otázkou „proč si myslíte, že X“, šlo de facto o parodii na psychoterapii). Rozhodně došlo k velkému pokroku a určité jazykové obraty mrtvého Mazurenka minimálně připomenou.

„Digitální nesmrtelnost“ se v obecné rovině diskutuje již nějaký čas, popsaný případ představuje nicméně konkrétní příběh. Nejde už o nápady v obecné rovině, ale někdo to reálně zkusil a dodělal do fungující aplikace. Celé to samozřejmě vyvolává množství úvah hned v několika směrech. Zůstaňme v rovině, že reprezentace nebude mít žádné vědomí, nepůjde tedy o nesmrtelnost pro mrtvého, ale pro pozůstalé. Dokonalost a přesvědčivost příslušného chatbota bude samozřejmě záviset na pokroku technologií (strojové učení a jiné), současně přesvědčivost klíčově závisí také na množství využitelných dat. Tím vzniká určitý paradox: nevíme, kdy zemřeme, a chceme-li si tedy někoho maximálně uchovat, měli bychom si opatřit jeho maximální digitální stopu. Romantická vycházka zůstane uchována maximálně v naší paměti, nicméně stohy e-mailů a SMS umožní, že spolu lidé opravdu zůstanou „navždy“.
A co když lidé sice nezemřou, ale stýkat se spolu přestanou? Bude možné, aby si někdo v případě zájmu takto vytvořil repliku druhého člověka, nebo na ni tento má cosi jako „autorská práva“? Je samozřejmě otázka, jak by se vytvoření takového chatbota dalo zabránit, takže třeba takto budeme žít nejenom s mrtvými, ale i s reprezentacemi bývalých partnerů či přátel, kteří nás zavrhli? A proč vlastně ne?

A nakonec se dostáváme i k otázce soukromí. Aby nás chatbot mohl věrně reprezentovat, musí toho o nás co nejvíce vědět. S ohledem na druhé bychom tedy příslušné aplikace měli tedy poskytovat maximum dat ze svého soukromí, a to nikoliv informace typu hesel nebo PINů, ale skutečně přístup k našim nejniternějším myšlenkám. Možná právě tohle nás přiměje skutečně se vzdát soukromí, bezpečnostní kamery, obavy z terorismu nebo personalizace reklamy budou drobnosti ve srovnání s osobní motivací… Budou-li taková data jednou shromážděna – a jsou pro to, jak vidno, rozumné a současně emočně silné důvody – mohou samozřejmě uniknout a mít různé další osudy. Když nic jiného, sociální inženýrství či krádeže identity najednou získají nový rozměr.
A jiná rovina úvah: Nebude pak pro lidi pohodlnější nechat už za živa třeba kontakt s příbuznými na příslušném robotovi? Australský autor sci-fi, spisovatel a matematik Greg Egan, popsal v povídce Únos případ vydírání, kdy se ukáže, že zločinci se zmocnili nikoliv samotné manželky, ale její digitální reprezentace. Hrdina povídky pravdu zjistí snadno (žena je prostě doma), nicméně reprezentace mu přijde natolik odpovídající, že raději zaplatí, než aby si vzal na svědomí utrpení kopie milované bytosti.
I když ale zrovna k tomuhle v brzké budoucnosti asi nedojde, stejně můžeme očekávat celou řadu velmi zajímavých scénářů. Stačí jen, aby se technologie „osobních chatbotů“ rozšířila a navěsily se na ni další aplikace, ekonomické modely, legislativa…

Vědci a filozofové se pokusili přijít s obecným evolučním zákonem

Evoluci můžeme chápat různě, ale ta biologická každopádně představuje pouze jeden z jejích příkladů. Evoluci …

2 comments

  1. Trochu odbocim, ale pri cteni mi vyvstala jedna vzpominka na clanek zabyvajici nesmrtelnosti duse.
    Vlastne slo o to, ze pokud duse z pohledu okoli je nejaka sada chovani (a zaroven) svym chovanim ovlivnuji sve okoli, nepredavam jim svou dusi? Nestava se me „ja“ nesmrtelnym (v nejake casti)? Tento pristup by pak posouval clanek jeste nekam jinam (kde ale „neni mozne vyhrat zadnou debatu argumenty“).
    Trochu k zamysleni.

  2. tak dejme tomu bereme-li „dusi“ jako konkretni sadu memu, tak znacna cast z nich smrt preckat opravdu muze – objevy, umelecka dila, ale i konverzacni hlasky, gesta, oblibene vychazky, kucharske recepty… i kdyz drtiva vetsina toho stejne nevydrzi navzdy, zmizi po case, zmodifikuji se k nepoznani – asi podobne jako geny. ovsem znacna cast tehle „kusu“ zase muze vznikat nezavisle. jen to konkretni propojeni… (i kdyz i zde jsou ruzne koncepty – simulace, nekonecny cas, multiverzum…)

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *

Používáme soubory cookies pro přizpůsobení obsahu webu a sledování návštěvnosti. Data o používání webu sdílíme s našimi partnery pro cílení reklamy a analýzu návštěvnosti. Více informací

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close