Sciencemag.cz
Doporučujeme
Na Purdue University sledovali vztah lidé k umělým systém (robotům, dronům, programům typu autopilotů včetně samořízených aut…). Cílem bylo zjistit, nakolik lidé věří tomu, že automatizované systémy pracují správně.
V praxi by k měření stupně lidské důvěry byly potřeba jednoduché metody umožňující snímání za provozních podmínek a vyhodnocení v reálném čase, např. žádné složité magnetické rezonance. Výzkumníci proto měřili pouze EEG (pomocí bezdrátových sluchátek) a galvanickou odezvu kůže (změny elektrické vodivosti, pomocí senzorů, které mohou být přímo součástí oděvu). Potom s dobrovolníky hovořili a snažili se příslušné parametry korelovat s tím, nakolik lidé měli pocit, že vše probíhá, jak má, respektive že automatický systém pracuje, jak má (to nemusí být nutně totéž, letadlo je třeba napadeno, ale věříme, že autopilot dále dělá to nejlepší a nebudeme mu do toho mluvit). Výzkum byl navíc doplněn o měření lidské fyziologie tam, kde systémy (simulátory řízení apod.) sledované dobrovolníky fungovaly záměrně chybně.
Hlavní problém spočívá v tom, že lidé se mohou pokusit převzít nad systémem kontrolu, nebo automatické ovládání přímo vyřadit z provozu. To bude ve většině případů mít negativní následky (předpokládáme, že automatizované systémy pracují spolehlivěji než lidé, navíc ve vypjatých situacích je automatika od toho, aby lidé, vojáci či záchranáři, mohli dělat něco jiného), těžko ale lidem v takovém chování zabránit. Něco ale přece jen zkusit lze; kdyby systém četl lidské emoce a aktuální psychický stav, mohl by v případě rostoucí nedůvěry např. změnit své chování, spustit vysvětlující dialog nebo zareagovat alespoň tak, aby se nezačala provádět protichůdná rozhodnutí.
Lidé se od sebe odlišují, na Purdue University proto pracovali se 2 modely: jeden vycházející z chování všech 45 účastníků experimentů, druhý personalizovaný, tedy vyladěný pro chápání emocí a předvídání reakcí konkrétního člověka.
Výsledky byly publikovány v Association for Computing Machinery’s Transactions on Interactive Intelligent Systems.
Zdroj Purdue University, TechXplore.com
