Pixabay License. Volné pro komerční užití

Komplexní modely AI prý zpochybňují Occamovu břitvu

Přesněji řečeno, Occamova břitva jako metodologický princip není podle nové studie (efektivně) použitelná univerzálně.

Jednoduché, úsporné modely jsou sice ve vědě normou, ale komplexní modely mohou být flexibilnější a přesnější. Prý. Occamova břitva ve smyslu preference co nejjednoduššího vysvětlení se vědě používá již několik staletí.
V poslední době však neuvěřitelně složité modely umělé inteligence začínají překonávat své jednodušší protějšky. Nový článek v časopise PNAS tvrdí, že přílišným spoléháním na úspornost (parsimonii) při modelování se vědci dopouštějí chyb a promarňují příležitosti.
Hlavní autorka studie Marina Dubova ze Santa Fe Institute říká, že přílišné spoléhání na parsimonii je historické. Zdůvodnění, proč je parsimonie vhodná, podle ní ale neobstála ve zkoušce časem.
„Spoléhání se pouze na parsimonii jako na hlavní princip omezuje to, co se můžeme o světě dozvědět, a potenciálně nás vede špatným směrem,“ říká M. Dubova. „Parsimonie a složitost jsou doplňující se nástroje. Vědci musí využívat důkazy, úsudek a požadavky specifické pro daný kontext, aby určili, zda jejich výzkumným cílům vyhovuje spíše parsimonní nebo komplexní model.“
Nesprávně použitá parsimonie může prý způsobit, že modely budou neobjektivní a povedou ke špatným předpovědím.
Komplexní modely mohou být flexibilnější a přesnější, jak ukázaly nové přístupy ve výzkumu změny klimatu. Ve vědě často každá laboratoř vyvíjí svůj vlastní model pro předpovědi jevu, který ji zajímá, a obor se nakonec shodne na nejjednodušším modelu, který nejlépe odpovídá datům. Vědci zabývající se klimatem však zjistili, že když spojí desítky někdy protichůdných modelů z různých laboratoří do jednoho souboru, prognózy klimatu lépe předpovídají skutečné jevy v reálném světě. I když jsou tyto klimatické modely nekompatibilní, vědci se rozhodnou použít je všechny, protože vědí, že každý z nich zachycuje určitý aspekt světa. Z literatury vyplývá, že jejich společné používání nám pomáhá lépe předpovídat realitu kolem nás,“ praví tisková zpráva.
Čili by se vědci, ve smyslu tvůrců modelů/teorií, měli nějak (poznámka: jak?) rozhodovat, kdy dát přednost úspornosti a kdy komplexnosti.

Marina Dubova et al, Is Ockham’s razor losing its edge? New perspectives on the principle of model parsimony, Proceedings of the National Academy of Sciences (2025). DOI: 10.1073/pnas.2401230121
Zdroj: Santa Fe Institute / TechXplore.com

Poznámky PH:
Má být zajímavé si někde najít, jak Occam sám svůj princip zformuloval. Prý to nebylo zrovna jednoduše/srozumitelně.
Jenže jde o metodologický princip. Lze vůbec mluvit o tom, že je „správný“ (maximálně, že je užitečný, zvyšuje efektivitu apod.). Z Occamovy břitvy nevyplývá, že máme y (předem) uvažovat jako funkci 1 proměnné, nikoliv 3.
Také se Occamovou břitvou často nemyslí konkrétní přístup k matematickému modelování, ale preference modelů, které nezahrnují „esoterické/metafyzické“ prvky. Čili jedna věc je zahrnutí více faktorů do modelu, druhá věc je, že předem vyloučím, že za louži přede dveřmi je odpovědné čůrání skřítků.
Jednoduché modely bývají často překvapivě platnější – asi v tom smyslu, že při regresi funkce modelující nějaký fyzikální jev v daném intervalu bude rovnice s x proměnnými (polynom stupně n apod.) vyhovovat zcela přesně. Téměř jistě ale bude takový model k ničemu pro extrapolaci mimo interval (nebo možná i pro nové hodnoty uvnitř intervalu).
Složité modely AI mohou mít povahu černé skřínky. Když jim nerozumíme, vadí to? (Možná ne. Možná nám jde nejenom o schopnost předpovědi, ale i o porozumění (či jeho iluzi tedy). Možná riziko černé skřínky je v tom, že bez porozumění přehlížíme meze platnosti modelu.)
Ještě mě v této souvislosti napadá, že Feynman rozděloval fyziky na „Řeky“ a „Babyloňany“, sám sebe přitom řadil do druhé skupiny. Měl tím víceméně na mysli, zda preferujete logicky vytříbenou teorii, nebo nějaký zbastlený přístup, který funguje, aniž víte proč.
A samozřejmě v úvahách tohoto typu lze pokračovat velmi dlouho.

Opice, Shakespeare a Rossův–Littlewoodův paradox

I českými médii proběhla zpráva o nové studii popisující známý paradox: jak je to s …

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *