Zum Hauptinhalt springen

Gestaltungswille und Algorithm Aversion – Die Auswirkungen der Einflussnahme im Prozess der algorithmischen Entscheidungsfindung auf die Algorithm Aversion

Zulia Gubaydullina, Jan René Judek, Marco Lorenz and Markus Spiwoks

sofia Diskussionsbeiträge 2021, No.6 

https://doi.org/10.46850/sofia.9783941627925

Obwohl Algorithmen in vielen Anwendungsgebieten präzisere Prognosen abgeben als Menschen, weigern sich Entscheidungsträger häufig, auf Algorithmen zurückzugreifen. In einem ökonomischen Experiment untersuchen wir, ob das Ausmaß dieses als „Algorithm Aversion“ bekannten Phänomens reduziert werden kann, indem Entscheidungsträgern eine Einflussmöglichkeit auf die Ausgestaltung des Algorithmus eingeräumt wird (Einflussmöglichkeit auf den algorithmischen Input). Zusätzlich replizieren wir die Studie von Dietvorst, Simmons & Massey (2018). Darin zeigt sich, dass die Algorithm Aversion deutlich zurückgeht, sofern die Subjekte am Ende die Ergebnisse des Algorithmus – und sei es nur um wenige Prozent – verändern können (Einflussmöglichkeit auf den algorithmischen Output). In der vorliegenden Studie bestätigt sich, dass die Algorithm Aversion bei einer Einflussmöglichkeit auf den algorithmischen Output signifikant zurückgeht. Eine Einflussmöglichkeit auf den algorithmischen Input scheint allerdings nur bedingt geeignet, die Algorithm Aversion zu reduzieren. Die begrenzte Möglichkeit zur Modifikation des algorithmischen Outputs reduziert die Algorithm Aversion effektiver als die Möglichkeit, Einfluss auf den algorithmischen Input zu nehmen.

Access full article

References

  1. Adams, I., Chan, M., Clifford, P., Cooke, W.M., Dallos, V., Dombal, F.T., Edwards, M., Hancock, D., Hewett, D.J. & McIntyre, N. (1986). Computer aided diagnosis of acute abdominal pain: a multicentre study, British Medical Journal (Clinical research ed.), 293(6550), 800-804. DOI: https://doi.org/10.1136/bmj.293.6550.800.
  2. Beck, A., Sangoi, A., Leung, S., Marinelli, R. J., Nielsen, T., Vijver, M. J., West, R., Rijn, M.V., & Koller, D. (2011). Systematic Analysis of Breast Cancer Morphology Uncovers Stromal Features Associated with Survival, Science Translational Medicine, 3(108), 108-113.
  3. Becker, O., Leitner, J. & Leopold-Wildburger, U. (2009). Expectation formation and regime switches, Experimental Economics, 12(3), 350-364. Burton, J., Stein, M. & Jensen, T. (2020). A Systematic Review of Algorithm Aversion in Augmented Decision Making, Journal of Behavioral Decision Making, 33(2), 220-239.
  4. Castelo, N., Bos, M. W. & Lehmann, D. R. (2019). Task-dependent algorithm aversion, Journal of Marketing Research, 56(5), 809-825.
  5. Colarelli, S.M. & Thompson, M.B. (2008). Stubborn Reliance on Human Nature in Employee Selection: Statistical Decision Aids Are Evolutionarily Novel, Industrial and Organizational Psychology, 1(3), 347-351.
  6. Dawes, R. (1979). The robust beauty of improper linear models in decision making, American Psychologist, 34(7), 571-582.
  7. Dawes, R., Faust, D. & Meehl, P. (1989). Clinical versus actuarial judgment, Science, 243(4899), 1668-74. DOI: https://doi.org/10.1126/science.2648573.
  8. Dietvorst, B. J., Simmons, J. P. & Massey, C. (2018). Overcoming algorithm aversion: People will use imperfect algorithms if they can (even slightly) modify them, Management Science, 64(3), 1155-1170.
  9. Dietvorst, B.J., Simmons, J. P. & Massey, C. (2015). Algorithm aversion: people erroneously avoid algorithms after seeing them err, Journal of Experimental Psychology, 144(1), 114-126.
  10. Filiz, I., Nahmer, T. & Spiwoks, M. (2019). Herd behavior and mood: An experimental study on the forecasting of share prices, Journal of Behavioral and Experimental Finance, 24, 1-10.
  11. Fischbacher, U. (2007). z-Tree: Zurich Toolbox for Ready-made Economic Experiments, Experimental Economics, 10(2), 171-178.
  12. Gladwell, M. (2007). Blink: The power of thinking without thinking. Grove, W., Zald, D., Lebow, B., Snitz, B. & Nelson, C. (2000). Clinical versus mechanical prediction: a meta-analysis, Psychological Assessment, 12(1), 19-30.
  13. Highhouse, S. (2008). Stubborn Reliance on Intuition and Subjectivity in Employee Selection, Organizational Psychology, 1(3), 333-342.
  14. Honeycutt, D., Nourani, M. & Ragan, E. (2020). Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy, Proceedings of the AAAI Conference on Human Computation and Crowdsourcing, 8(1), 63-72.
  15. Jussupow, E., Benbasat, I., & Heinzl, A. (2020). Why are we averse towards Algorithms? A comprehensive literature Review on Algorithm aversion. Twenty-Eighth European Conference on Information Systems (ECIS2020) – A Virtual AIS Conference, 1-16.
  16. Kawaguchi, K. (2021). When will workers follow an algorithm? A field experiment with a retail business, Management Science, 67(3), 1670-1695.
  17. Landsbergen, D., Coursey, D.H., Loveless, S. & Shangraw, R. (1997). Decision Quality, Confidence, and Commitment with Expert Systems: An Experimental Study, Journal of Public Administration Research and Theory, 7(1), 131-158.
  18. Logg, J., Minson, J. & Moore, D. (2019). Algorithm appreciation: People prefer algorithmic to human judgment, Organizational Behavior and Human Decision Processes, 151(C), 90-103.
  19. Meehl, P. (1955). Clinical Versus Statistical Prediction: A Theoretical Analysis and a Review of the Evidence, University of Minnesota Press, Minneapolis.
  20. Meub, L., Proeger, T., Bizer, K. & Spiwoks, M. (2015). Strategic coordination in forecasting - An experimental study, Finance Research Letters, 13(1), 155-162.
  21. Önkal, D., Goodwin, P., Thomson, M., Gönül, S. & Pollock, A. (2009). The Relative Influence of Advice from Human Experts and Statistical Methods on Forecast Adjustments, Journal of Behavioral Decision Making, 22(4), 390-409.
  22. Prahl, A., & Van Swol, L. (2017). Understanding algorithm aversion: When is advice from automation discounted? Journal of Forecasting, 36(6), 691-702.
  23. PricewaterhouseCoopers (2019). Künstliche Intelligenz in Unternehmen.
  24. Stumpf, S., Sullivan, E., Fitzhenry, E., Oberst, I., Wong, W. K. & Burnett, M. (2008). Integrating rich user feedback into intelligent user interfaces, Proceedings of the 13th international conference on Intelligent user interfaces, 50-59.              
  25. Taylor, E. (2017). Making sense of “algorithm aversion”, Research World, 2017, 57-57.
  26. Upadhyay, A. K., & Khandelwal, K. (2018). Applying artificial intelligence: implications for recruitment. Strategic HR Review, 17(5), 255-258. DOI: https://doi.org/10.1108/SHR-07-2018-0051.
  27. Wormith, J.S. & Goldstone, C.S. (1984). The Clinical and Statistical Prediction
    of Recidivism, Criminal Justice and Behavior, 11(1), 3-34.