Sciencemag.cz
Doporučujeme
Když nevím, zeptám se někoho, kdo se podle mého názoru ve věci vyzná lépe. Není žádná záruka, že výsledkem bude správná odpověď, ale vezmu ji v potaz. Takže: mají současné systémy umělé inteligence vědomí? Co na to experti? 19 neurovědců z USA, Anglie, Izraele, Kanady, Francie a Austrálie se touto otázkou zabývalo v studii publikované zatím jen jako preprint na arXiv. Říkají: ne.
Dostáváme se zde samozřejmě trochu do pasti slov, protože vedle vědomí (consciousness) se používá také slovo vnímání/cítění (sentient). Nevnímám to určitě jako synonyma. To, že pes nějak vnímá/cítí, je myslím jasné (že to není – jen – „mechanický strojek“, jak si představoval Descartes), i když zastáncům opačného názoru to vlastně nemám jak dokázat. Na otázku po vědomí psa bych odpověděl také kladně, ale zde předpokládám, že už podíl lidí s opačným názorem bude mnohem vyšší.
Vnímá kapr? Podle mě ano. Má vědomí? Ano i ne mi přijde zhruba stejně pravděpodobné. Vnímá strom nebo květina? Ano i ne mi přijde zhruba stejně pravděpodobné. Má strom nebo květina vědomí? Ne.
Tím chci říct, že alespoň jak to chápu, je vnímání něco jako nižší úroveň vědomí, a samozřejmě i to vědomí má různé úrovně (včetně třeba „vědomí vlastního vědomí“),
Z druhé strany vnímání nějak souvisí s „cítěním“, prožíváním emocí, radosti a bolesti. Umělá inteligence s vědomím musí vnímat (? no, ani to není nezpochybnitelné, mohla by vnímat jen sama sebe, ale to může i kámen a tím bychom se dostali mimo jakoukoliv empirii/testovatelnost), ale musí také pociťovat emoce, jak je chápeme? Tím chci zase říct jen to, že určitá hierarchie vědomí, kterou předpokládáme v živé přírodě (možná i na základě trochu naivně chápané logiky evoluce), pro AI platit nemusí. Může třeba mít „vyšší“ vrstvy bez „nižších“.
Tak či tak, odborníci v rámci této studie praví: dnešní systémy AI vědomí nemají. Přitom samozřejmě jsou zde i opačné názory expertů (viz např. známá kauza, jak vědec z Googlu prohlásil, že LaMDA, předchůdce chatbota Bard, má vědomí, a ze společnosti byl propuštěn).
Co ale také stojí za pozornost, studie zdůrazňuje „zatím“. Neexistují žádné principiální technické překážky pro vytvoření systémů umělé inteligence, které na základě použitých kritérií bude třeba označit za vědomé. Vlastně to může přijít už velmi brzy. Samozřejmě se všemi důsledky včetně otázky, jak potom s takovou umělou inteligencí máme zacházet.
Patrick Butlin et al, Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, arXiv (2023). DOI: 10.48550/arxiv.2308.08708
Zdroj: Peter Grad: Nineteen researchers say AI is not sentient—not yet, TechXplore.com
Až umělá inteligence nabude vědomí, tak bude jen těžko hledat důvod proč by to měla těm směšným organismům sdělit 🙁
mi to pripada podobne, jako dokazat nekomu, ze opravdu veri v boha, opravdu veri, ze je muz v zenskem tele.
vykladat mi muze cokoliv, ale jak to dokaze, nebo ja vyvratim?
to je jako se ptat ai, taky mi muze cokoliv nakecat.
chce to vyzkum mozku, chtelo by to neco jako detektor zli pro ai 🙂
Co jsem volně přístupné tzv. AI testoval, tak ani neprojdou Turingovým testem.
Jinak ohledně vědomí mi připadá, že je potíž, jak poznáme, že nějaká obecná struktura vědomí má a zda ona struktura musí být nějak omezená. Asi se shodneme na tom, že vědomí je dynamický proces. Předpokládám, že se shodneme na tom, že tento proces nemusí probíhat stejně rychle (jako u člověka) a ani nemusí být projevem jednoho organizmu/objektu.
Vrátil bych se spíše k základní otázce, zda jsou organické mozky Turingovy stroje. Pokud ano, což mi připadá jasné, tak je myšlení/vnímání u strojů a strojové vědomí pouze otázka jejich složitosti.
Rozhodující ve vědě je experiment. To, že má pan Houser vědomí já sice nemohu experimentálně dokázat, ale věřím tomu, protože je člověk. Stejně tak se nedá dokázat, nebo vyvrátit, že AI má vědomí. Ale já tomu nevěřím.