(c) Graphicstock

Stroj by měl poznat, že mu lidé nevěří

Na Purdue University sledovali vztah lidé k umělým systém (robotům, dronům, programům typu autopilotů včetně samořízených aut…). Cílem bylo zjistit, nakolik lidé věří tomu, že automatizované systémy pracují správně.
V praxi by k měření stupně lidské důvěry byly potřeba jednoduché metody umožňující snímání za provozních podmínek a vyhodnocení v reálném čase, např. žádné složité magnetické rezonance. Výzkumníci proto měřili pouze EEG (pomocí bezdrátových sluchátek) a galvanickou odezvu kůže (změny elektrické vodivosti, pomocí senzorů, které mohou být přímo součástí oděvu). Potom s dobrovolníky hovořili a snažili se příslušné parametry korelovat s tím, nakolik lidé měli pocit, že vše probíhá, jak má, respektive že automatický systém pracuje, jak má (to nemusí být nutně totéž, letadlo je třeba napadeno, ale věříme, že autopilot dále dělá to nejlepší a nebudeme mu do toho mluvit). Výzkum byl navíc doplněn o měření lidské fyziologie tam, kde systémy (simulátory řízení apod.) sledované dobrovolníky fungovaly záměrně chybně.
Hlavní problém spočívá v tom, že lidé se mohou pokusit převzít nad systémem kontrolu, nebo automatické ovládání přímo vyřadit z provozu. To bude ve většině případů mít negativní následky (předpokládáme, že automatizované systémy pracují spolehlivěji než lidé, navíc ve vypjatých situacích je automatika od toho, aby lidé, vojáci či záchranáři, mohli dělat něco jiného), těžko ale lidem v takovém chování zabránit. Něco ale přece jen zkusit lze; kdyby systém četl lidské emoce a aktuální psychický stav, mohl by v případě rostoucí nedůvěry např. změnit své chování, spustit vysvětlující dialog nebo zareagovat alespoň tak, aby se nezačala provádět protichůdná rozhodnutí.
Lidé se od sebe odlišují, na Purdue University proto pracovali se 2 modely: jeden vycházející z chování všech 45 účastníků experimentů, druhý personalizovaný, tedy vyladěný pro chápání emocí a předvídání reakcí konkrétního člověka.
Výsledky byly publikovány v Association for Computing Machinery’s Transactions on Interactive Intelligent Systems.

Zdroj Purdue University, TechXplore.com

Dioda z excitonů: složité klastry děr a elektronů

Na Vídeňské technické univerzitě přišli s možným využitím podivných částic, tzv. excitonů, které mohou vznikat …

Používáme soubory cookies pro přizpůsobení obsahu webu a sledování návštěvnosti. Data o používání webu sdílíme s našimi partnery pro cílení reklamy a analýzu návštěvnosti. Více informací

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close