Please use this identifier to cite or link to this item: http://dx.doi.org/10.14279/depositonce-4924
Main Title: Human performance consequences of automated decision aids
Subtitle: the impact of degree of automation, system experience, and operator functional state
Translated Title: Leistungsfolgen beim Umgang mit Assistenzsystemen
Translated Subtitle: der Einfluss von Funktionsallokation, Systemerfahrung und Bedienerzustand
Author(s): Reichenbach, Juliane
Advisor(s): Manzey, Dietrich
Referee(s): Manzey, Dietrich
Wandke, Hartmut
Granting Institution: Technische Universität Berlin
Type: Doctoral Thesis
Language Code: en
Abstract: Introducing automation intends to yield performance benefits, increase system safety and efficiency, and decrease costs. However, the intended benefits are often offset by negative effects such as complacency and automation bias, loss of situation awareness, and skill degradation. Automating systems is not an all-or-none decision, and degree of automation (DOA) has been shown to influence both intended performance benefits as well as performance decrements. While performance benefits more from higher automation, results about the optimal degree of automation in terms of preventing negative effects are not so clear-cut. In a first study, we investigated effects of degree of automation on routine performance and failure performance using a simulated process control task. Results show that primary and secondary task performance as well as workload benefit from providing automation, and performance gains were higher for higher DOA. However, skill degradation was observed for the highest DOA when returning to manual performance. Regarding automation bias, there was no effect of DOA. The second study focused on the effects of system experience. Failure experience led to a strong decrease in trust, also reflected in more intense automation verification. Early failure experience reduced the risk of complacency and automation bias but did not prevent it completely. Moreover, we identified three possible causes of commission errors: a) incomplete automation verification, b) complete automation verification without attentive processing of contradictory information, analogous to a “looking-but-not-seeing” effect, c) discounting of contradictory system information. The third study looked into effects of operator functional state and DOA. Higher DOA could better protect performance after extended wakefulness, but return-to-manual performance suffered more. More information was sampled for automation verification during the night, and the risk of commission errors was lower compared to daytime performance.
Mit der Einführung von Automation sollen Leistungsvorteile erzielt, eine Erhöhung der Systemsicherheit und Effizienz erreicht und Kosten reduziert werden. Leider ist sie oft auch von negativen Effekten wie complacency und automation bias, Verlust des Situationsbewusstseins und Fertigkeitsverlusten begleitet. Automatisierung ist keine Alles-oder-Nichts Entscheidung, und der Grad der Automatisierung beeinflusst sowohl die Vorteile als auch die Nachteile. Während Leistungsvorteile sich besonders bei hohen Automationsstufen zeigen, gibt es keine so klaren Ergebnisse darüber, welche Automationsstufe die optimale ist, um negative Automatisierungsfolgen zu vermeiden. In dieser Arbeit wurde in einer ersten Studie der Einfluss des Automationsgrades (degree of automation, DOA) auf die Leistung bei zuverlässiger Automationsunterstützung wie auch bei Automationsversagen untersucht. Die Ergebnisse zeigen, dass sowohl Primär- und Sekundäraufgabenleistung als auch workload von der Automationsunterstützung profitieren. Die Leistungsvorteile waren höher bei höherer DOA. Allerdings wurden bei der höchsten DOA auch Fertigkeitsverluste gefunden, wenn wieder ohne Unterstützung der Automation gearbeitet werden musste. Es wurde kein Einfluss von DOA auf automation bias gefunden. In einer zweiten Studie wurde der Einfluss der Systemerfahrung untersucht. Die Erfahrung von Automationsfehlern führte zu einem drastischen Einbruch des Vertrauens und einer stärkeren Überprüfung der Automation. Frühe Fehlererfahrung reduzierte das Risiko von complacency und automation bias, konnte es aber nicht komplett verhindern. Desweiteren wurden in der Studie drei mögliche Ursachen von commission errors identifiziert: a) die Automation wird unvollständig überprüft, b) die Automation wird vollständig überprüft, aber widersprechende Information nicht bewusst verarbeitet, c) widersprechende Information wird bei der Entscheidung nicht berücksichtigt. In der dritten Studie wurden Effekte von Bedienerzustand und DOA untersucht. Mit Unterstützung höherer Automation konnte die Leistung während der Nacht besser erhalten werden. Allerdings waren die Leistungseinbußen bei Ausfall der Automation stärker als bei niedrigerem Automationsgrad. Die Automation wurde nachts mehr überprüft als tagsüber, und das Risiko eines commission error war nachts geringer.
URI: http://depositonce.tu-berlin.de/handle/11303/5227
http://dx.doi.org/10.14279/depositonce-4924
Exam Date: 17-Jun-2015
Issue Date: 2015
Date Available: 30-Dec-2015
DDC Class: DDC::100 Philosophie und Psychologie::150 Psychologie::150 Psychologie
Subject(s): human-automation interaction
function allocation
automation bias
complacency
Mensch-Automation-Interaktion
Funktionsallokation
Usage rights: Terms of German Copyright Law
Appears in Collections:Institut für Psychologie und Arbeitswissenschaft » Publications

Files in This Item:
File Description SizeFormat 
reichenbach_juliane.pdf2 MBAdobe PDFThumbnail
View/Open
reichenbach_juliane_appendix.zipAppendix47.46 MBZIP ArchiveView/Open


Items in DepositOnce are protected by copyright, with all rights reserved, unless otherwise indicated.