Human performance consequences of automated decision aids

Reichenbach, Juliane

Human performance consequences of automated decision aids

dc.contributor.advisor	Manzey, Dietrich
dc.contributor.author	Reichenbach, Juliane
dc.contributor.grantor	Technische Universität Berlin	en
dc.contributor.referee	Manzey, Dietrich
dc.contributor.referee	Wandke, Hartmut
dc.date.accepted	2015-06-17
dc.date.accessioned	2015-12-30T15:09:23Z
dc.date.available	2015-12-30T15:09:23Z
dc.date.issued	2015
dc.description.abstract	Introducing automation intends to yield performance benefits, increase system safety and efficiency, and decrease costs. However, the intended benefits are often offset by negative effects such as complacency and automation bias, loss of situation awareness, and skill degradation. Automating systems is not an all-or-none decision, and degree of automation (DOA) has been shown to influence both intended performance benefits as well as performance decrements. While performance benefits more from higher automation, results about the optimal degree of automation in terms of preventing negative effects are not so clear-cut. In a first study, we investigated effects of degree of automation on routine performance and failure performance using a simulated process control task. Results show that primary and secondary task performance as well as workload benefit from providing automation, and performance gains were higher for higher DOA. However, skill degradation was observed for the highest DOA when returning to manual performance. Regarding automation bias, there was no effect of DOA. The second study focused on the effects of system experience. Failure experience led to a strong decrease in trust, also reflected in more intense automation verification. Early failure experience reduced the risk of complacency and automation bias but did not prevent it completely. Moreover, we identified three possible causes of commission errors: a) incomplete automation verification, b) complete automation verification without attentive processing of contradictory information, analogous to a “looking-but-not-seeing” effect, c) discounting of contradictory system information. The third study looked into effects of operator functional state and DOA. Higher DOA could better protect performance after extended wakefulness, but return-to-manual performance suffered more. More information was sampled for automation verification during the night, and the risk of commission errors was lower compared to daytime performance.	en
dc.description.abstract	Mit der Einführung von Automation sollen Leistungsvorteile erzielt, eine Erhöhung der Systemsicherheit und Effizienz erreicht und Kosten reduziert werden. Leider ist sie oft auch von negativen Effekten wie complacency und automation bias, Verlust des Situationsbewusstseins und Fertigkeitsverlusten begleitet. Automatisierung ist keine Alles-oder-Nichts Entscheidung, und der Grad der Automatisierung beeinflusst sowohl die Vorteile als auch die Nachteile. Während Leistungsvorteile sich besonders bei hohen Automationsstufen zeigen, gibt es keine so klaren Ergebnisse darüber, welche Automationsstufe die optimale ist, um negative Automatisierungsfolgen zu vermeiden. In dieser Arbeit wurde in einer ersten Studie der Einfluss des Automationsgrades (degree of automation, DOA) auf die Leistung bei zuverlässiger Automationsunterstützung wie auch bei Automationsversagen untersucht. Die Ergebnisse zeigen, dass sowohl Primär- und Sekundäraufgabenleistung als auch workload von der Automationsunterstützung profitieren. Die Leistungsvorteile waren höher bei höherer DOA. Allerdings wurden bei der höchsten DOA auch Fertigkeitsverluste gefunden, wenn wieder ohne Unterstützung der Automation gearbeitet werden musste. Es wurde kein Einfluss von DOA auf automation bias gefunden. In einer zweiten Studie wurde der Einfluss der Systemerfahrung untersucht. Die Erfahrung von Automationsfehlern führte zu einem drastischen Einbruch des Vertrauens und einer stärkeren Überprüfung der Automation. Frühe Fehlererfahrung reduzierte das Risiko von complacency und automation bias, konnte es aber nicht komplett verhindern. Desweiteren wurden in der Studie drei mögliche Ursachen von commission errors identifiziert: a) die Automation wird unvollständig überprüft, b) die Automation wird vollständig überprüft, aber widersprechende Information nicht bewusst verarbeitet, c) widersprechende Information wird bei der Entscheidung nicht berücksichtigt. In der dritten Studie wurden Effekte von Bedienerzustand und DOA untersucht. Mit Unterstützung höherer Automation konnte die Leistung während der Nacht besser erhalten werden. Allerdings waren die Leistungseinbußen bei Ausfall der Automation stärker als bei niedrigerem Automationsgrad. Die Automation wurde nachts mehr überprüft als tagsüber, und das Risiko eines commission error war nachts geringer.	de
dc.identifier.uri	https://depositonce.tu-berlin.de/handle/11303/5227
dc.identifier.uri	http://dx.doi.org/10.14279/depositonce-4924
dc.language.iso	en	en
dc.relation.haspart	10.14279/depositonce-8037
dc.relation.haspart	10.14279/depositonce-8057
dc.relation.haspart	10.14279/depositonce-8058
dc.rights.uri	http://rightsstatements.org/vocab/InC/1.0/	en
dc.subject.ddc	150 Psychologie	de
dc.subject.other	human-automation interaction	en
dc.subject.other	function allocation	en
dc.subject.other	automation bias	en
dc.subject.other	complacency	en
dc.subject.other	Mensch-Automation-Interaktion	de
dc.subject.other	Funktionsallokation	de
dc.title	Human performance consequences of automated decision aids	en
dc.title.subtitle	the impact of degree of automation, system experience, and operator functional state	en
dc.title.translated	Leistungsfolgen beim Umgang mit Assistenzsystemen	de
dc.title.translatedsubtitle	der Einfluss von Funktionsallokation, Systemerfahrung und Bedienerzustand	de
dc.type	Doctoral Thesis	en
dc.type.version	acceptedVersion	en
tub.accessrights.dnb	free	en
tub.affiliation	Fak. 5 Verkehrs- und Maschinensysteme::Inst. Psychologie und Arbeitswissenschaft	de
tub.affiliation.faculty	Fak. 5 Verkehrs- und Maschinensysteme	de
tub.affiliation.institute	Inst. Psychologie und Arbeitswissenschaft	de
tub.publisher.universityorinstitution	Technische Universität Berlin	en