Kdo, kdy, kde: Berkeley Dietvorst, 2015, Wharton School, University of Pennsylvania (USA). Publikováno v Journal of Experimental Psychology: General. 

Průběh experimentu: Série studií zkoumala, zda lidé důvěřují více lidským nebo algoritmickým předpovědím. Účastníkům byly předloženy úlohy předpovídání (např. úspěšnost studentů, výsledek sportovních zápasů) s možností vybrat buď predikci od člověka-odborníka, nebo predikci od počítačového algoritmu. Kriticky: účastníci viděli, jak obě možnosti doposud predikovaly (srovnání chybovosti). Výzkum zjistil, že i když byl algoritmus objektivně přesnější, jakmile lidé spatřili, že dělá chyby, začali cítit odpor vůči algoritmům a raději volili lidského prognostika. Tento jev autoři nazvali “algorithm aversion” – nechuť spoléhat na algoritmus poté, co se projeví omylnost stroje. 

Zjištění a význam: Lidé mají tendenci být k algoritmům přísnější než k lidem. Jakmile algoritmus udělá chybu, uživatelé jej opustí, zatímco lidskému odborníkovi chyby spíše tolerují. Paradoxně i při jasném důkazu, že algoritmus v průměru překonává člověka, mnoho lidí stále dává přednost lidskému úsudku. Toto zjištění je pro psychologii důležité, protože ukazuje iracionální nedůvěru v technologie – i když by nás algoritmy mohly lépe navigovat (lékařské diagnózy, autopilot), naše psychologie nám velí vrátit kontrolu člověku při prvním zaškobrtnutí stroje. 

Omezení: Jednalo se o relativně abstraktní predikční úlohy v laboratorních podmínkách. V reálném prostředí může hrát roli více faktorů (např. zvyklost, míra porozumění tomu, jak algoritmus pracuje). Další výzkum ukázal, že transparentnost a možnost částečně algoritmus ovlivnit zvyšuje důvěru – lidé se méně bojí, když mohou do algoritmu “mluvit”. Avšak obecný sklon podceňovat algoritmy tváří v tvář lidským úsudkům byl potvrzen v mnoha kontextech (personalistika, lékařství). 

Současná aplikace: Termín algorithm aversion se ujal v diskusích o zavádění AI do praxe. Firmy i vlády dnes řeší, jak lidi přesvědčit, aby důvěřovali např. samořiditelným autům nebo prediktivním modelům v medicíně. Zjištění radí, že klíčem může být zapojit člověka jako “supervizora” – uživatelé přijmou doporučení AI spíše, když mají pocit kontroly. Také se doporučuje vzdělávat o reálné výkonnosti algoritmů vs. lidí (např. že AI může chybovat, ale průměrně chybuje méně než člověk). Psychologicky je třeba překonat “první dojem zklamání” u AI. 

Zajímavosti: Odpor k algoritmům byl pozorován i u profesionálů – například zkušení lékaři nechtěli věřit modelu pro diagnostiku, i když byl prokazatelně lepší než oni. Dietvorst zjistil, že lidé preferují i proměnlivost lidského výkonu – raději vsadí na člověka, u kterého existuje šance na geniální odhad i za cenu občasných selhání, než na stroj s menší variabilitou (který se “nikdy výrazně nezlepší”). Tento psychologický paradox je překážkou pro plné využití potenciálu AI v rozhodovacích procesech.