Sciencemag.cz
Doporučujeme
Evropě ve světle práce s umělou inteligencí hrozí, že se stane synonymem pro regulace a antonymem pro inovace. Před výtvory generativní AI už se stejně neuchráníme, i kdybychom ji snad pomýleně zakázali, říká expert Národního institutu SYRI na tuto oblast Jakub Sedláček z Univerzity Karlovy. Podle něj do budoucna dál poroste důležitost důvěryhodných informačních zdrojů, jakými jsou například vědecké weby a podobně.
Rok s umělou inteligencí mnohé změnil. Tak jako každá nová technologie se dá používat v pozitivním smyslu, nebo zneužít. Příkladem jsou fake news. „Jestli jsou fotka, audionahrávka nebo videozáznam skutečné, už laik a mnohdy ani profesionál nemá moc šanci poznat. Otázka tedy především zní, jestli věříme zdroji, ze kterého se k nám dostaly,“ uvedl Sedláček, který se sám považuje za technooptimistu.
Stát by podle něj měl především podporovat startupové podhoubí a nechat v období zlaté horečky kolem generativní AI vyrůst projekty s potenciálem světového dosahu. „Inovace k nám v praxi proudí především od zámořských technologických gigantů a my jen horko těžko regulujeme. Evropě tak spíš hrozí, že se stane synonymem pro regulace a antonymem pro inovace, než že by nestihla něco včas zakázat. Stát ale samozřejmě bude potřebovat zaměstnat odborníky, realizovat osvětové kampaně, a gramotnost kolem generativní AI rozvíjet i ve školách. Občan musí být digitálně gramotný, jinak bude demokracie trpět,“ říká Sedláček.
AI přinesla řadu věcí, na které jsme si za rok ani zvyknout nemohli. Příkladem je revoluce v generování obrazu „umělou inteligencí“, která nastala teprve loni. „Na druhou stranu je dobré připomenout, že manipulace obrazu není nic nového. Třeba vymazávat lidi z fotografické historie nechával už přinejmenším Stalin, a takřka všechno, co dnes umožňují nejnovější generativní nástroje umělé inteligence, zvládne trénovaný uživatel Photoshopu už desítky let. Rozdíl je hlavně v dostupnosti takových nástrojů. Přestávají být potřeba roky praxe s Photoshopem a stačí mobilní aplikace poháněná strojovým učením,“ upozorňuje vědec.
Regulovat obsah vytvářený AI podle něj možné není. „Můžeme lokálně regulovat služby, které takovou možnost nabízejí, ale velká část z nich stejně staví na nástrojích, které vznikly v rámci výzkumných projektů, a autoři je buď sdíleli se světem přímo, nebo přinejmenším publikovali postupy, které komunita následně může replikovat. Velice přesvědčivou fotku si tak dnes můžete s trochou digitální gramotnosti vygenerovat doma na výkonnějším počítači s pomocí nástrojů, které jsou k dispozici zdarma. Tuhle Pandořinu skřínku už zavřít nelze,“ tvrdí Sedláček.
Vývoj podle něj směřuje k naprosté nerozeznatelnosti výtvoru AI od reality. „Zatím můžeme na fotkách počítat zuby, prsty, okna, sledovat vzory na oblečení nebo chodníku, a odhalit tak nedokonalosti AI, ale to je všechno nejspíš dočasný stav. Když budu chtít, můžu se s někým po telefonu bavit hlasem pana prezidenta a ve videohovoru na sebe vzít jeho docela přesvědčivou podobu. V takové situaci závisí výpovědní hodnota fotografie, audiozáznamu i videa čistě na důvěryhodnosti jejich zdroje. Obzvlášť v prostředí sociálních sítí může velký problém způsobit schopnost AI takovýto obsah chrlit ve velkém, která dá „trollím farmám“ možnost vytvářet dojem, že je daná věc pravdivá čistě proto, že se na nás sype ze všech stran,“ uvedl Sedláček.
AI může tedy dezinformace šířit, může s bojem proti nim ale i pomáhat. „Určitě je možné budovat systémy na automatické ověřování informací a částečně i rozpoznávání generovaného obsahu. Na úrovni social media platforem mají různé formy AI v rukou moderování obsahu, a tedy i rozpoznávání obsahu nežádoucího už dávno, a jejich role poroste,“ dodává Sedláček.
