Sciencemag.cz
Related Articles
Umělá inteligence dnes začíná prorůstat veškerými lidskými činnostmi. Výjimkou není ani hledání mimozemských civilizací nebo alespoň života ve vesmíru.
Vezměme si třeba záhadné „mimozemské“ rádiové signály. Zdánlivě abioticky nevysvětlitelné chemické signatury na jiných planetách. Jevy, které jsou mylně považovány za doklady létajících talířů. Při hledání mimozemského života byli lidé již vícekrát oklamáni signály, které se nakonec ukázaly jako falešné poplachy. Jak je na tom současná umělá inteligence?
Výzkumníci z Michiganské státní univerzity nyní ukazují, že i AI se může podobně mýlit či přímo naletět na podvody. Studie, jejíž spoluautory jsou Ankit Gupta a Christoph Adami, zjistila, že současné modely lze oklamat tak, aby viděly známky života tam, kde žádné neexistují, a se sebevědomou jistotou dávaly nesprávné odpovědi. To by podle vědců mohlo znamenat potíže pro příští velké a drahé vesmírné mise.
Někteří sázejí na umělou inteligenci při pátrání po životě ve vesmíru díky její schopnosti zpracovávat obrovské množství dat a rozpoznávat vzorce; očekávají, že se tím hledání odpovědi minimálně urychlí.
Řada současných i budoucích misí NASA počítá s hledáním stop minulého či současného mimozemského života – od roverů provádějících vrty do marťanské půdy a kosmických sond zkoumajících měsíce Saturnu a Jupitera až po dalekohledy zkoumající atmosféry planet mimo naši sluneční soustavu. Jakmile se tam dostanou, senzory využívající umělou inteligenci a další zařízení budou analyzovat různé vzorky a hledat znaky, které by naznačovaly, že by mohly pocházet od živých organismů.
Nejspíš neexistuje žádný jediný jednoznačný znak dokazující přítomnost života. Adami a Gupta se překlonili k definice života jako kódování informace. Provedli experiment, v němž pomocí programu Avida vytvořili umělé formy života a poté vycvičili umělou inteligenci, aby je dokázala detekovat.
Ve světě Avidy se digitální organismy neustále kopírují ve virtuálním prostředí uvnitř počítače. Při každé replikaci je proces kopírování nedokonalý a jejich počítačový kód se mění, stejně jako mutuje genetický kód skutečných organismů. Takové formy „digitálního života“ se již několik desetiletí používají mj. ke studiu evoluce.
V rámci studie vědci pomocí programu Avida vygenerovali desítky tisíc digitálních organismů, z nichž některé obsahovaly pokyny potřebné k vlastní replikaci a jiné nikoli. Tyto organismy pak použili k trénování neuronové sítě, aby dokázala rozlišit mezi těmito dvěma typy s přesností 99,97 %. Když však vědci otestovali neuronovou síť na příkladech, s nimiž se dosud nesetkala, výsledky vypadaly mnohem méně působivě.
Ve svých experimentech vědci nejprve předložili neuronové síti digitální organismus, který umělá inteligence správně vyhodnotila jako neschopný se samoreplikovat. Poté, postupným nahrazováním jedné operace jinou v počítačovém kódu organismu, se vědcům podařilo oklamat umělou inteligenci tak, aby tento organismus nesprávně klasifikovala jako samoreplikující se, a to již po pouhých 150 pokusech. Jinými slovy, pouhými několika drobnými úpravami tým dokázal, že je možné přesvědčit umělou inteligenci, že vidí známky života tam, kde ve skutečnosti neexistují. „Bez ohledu na to, s jakou sekvencí příkazů jsme začali, se nám podařilo oklamat umělou inteligenci ve 100 % případů,“ uvedl A. Gupta.
Výsledky podtrhují známou slabinu mnoha současných modelů AI. To neznamená, že je zbytečné používat takové metody v astrobiologii, je ale potřeba mít nezávislý způsob, jak umělou inteligenci kontrolovat.
Ankit Gupta and Christoph Adami. Can AI Detect Life? Lessons from Artificial Life, Proceedings of the 2026 Conference on Artificial Life (2026).
Zdroj: Michigan State University / Phys.org, přeloženo / zkráceno
Poznámka PH: Není to celé trochu banální? Vzhledem k tomu, kolik lidí by se analýzou dat o možném životě zabývalo, vypadá zrovna riziko přílišné důvěry v AI v tomto případě dost zanedbatelné. Respektive riziko falešně pozitivní detekce není o nic vyšší než v případě činnosti lidí. Mohl by být problém, kdybychom na AI spoléhali v případě nutnosti souvisejících problémů v reálném čase?
Podle mě to banální není. Současné mise produkují ohromná množství dat, a v okamžiku, kdy se umělá inteligence začně používat pro filtrování těch zajímavých (a ostatní se zahodí), tak,opravdu hrozí, že umělá inteligence vybere za zajímavá ta data, která podporují její (natrénované) předsudky a ostatní zahodí a pro následnou kontrolu prostě nebudou data.
Dnes se umělá inteligence využívá na všech detektorech v LHC pro výběr, které srážky se zaznamenají a které ne. Podle mě to podstatně snižuje důvěryhodnost publikovaných výsledků. Leč stále doufám, že ti, kdo to provozují, vědí, co činí.
Pokus samotný je kvíčovina, o tom žádná. Tak dlouho blbnout se vstupními daty až objekt vypadne z klasifikace, je hodně stará a profláknutá metoda, takže akademici zase objevovali kolo. Větší problém vidím, až AI z tragického Chat.controlu začne posílat obsílky a zásahovku do bytu obyčejným nic netušícím lidem protože chybně vyhodnotí jejich zcela běžnou netovou komunikaci. To teprv bude prča.