Loading…
Thumbnail Image

Safe, intelligent and explainable self-adaptive systems

Klös, Verena

Intelligent cyber-physical systems, such as self-driving cars, smart homes or e-health solutions, will increasingly influence our daily lives. They will deal with increasingly uncertain and changing environments and simultaneously must adhere to strict safety requirements. In addition, we need to trust those systems, as we will hand over control on our daily life to them. This increasing list of non-functional requirements makes the design of intelligent cyber-physical systems (CPS) a challenging task. In this thesis, we advance research on intelligent CPS by introducing intelligent self-adaptive systems that autonomously evolve their adaptation logic in response to changes in the system structure, their environment and their goals. We make their widespread integration possible, by introducing a safe design framework, based on a novel methodology. Our framework enables the integrated design and formal verification of intelligent and explainable self-adaptive systems. Our key idea is to combine a resource-efficient process for self-adaptation with dynamic evolution of the adaptation logics and continuous verification activities. To obtain trust in those systems, we additionally collect structured runtime knowledge to build an explanation basis for autonomous decisions. Our main contributions are an efficient and comprehensible rule- and distance-based adaptation process, a quantitative and context-dependent goal model that provides the basis for our adaptation process, a resource-efficient run-time evolution of adaptation logics that combines a continuous evaluation and observation-based optimization, of adaptation rules and a stochastic search-based learning of new comprehensible adaptation rules, and a continuous verification methodology that is based on a formalization of our rule- and distance-based adaptation process in timed automata. We have implemented our framework and evaluated its applicability and performance on three case studies from different domains, namely a smart temperature control system, an autonomous drone delivery system and a self-organizing production system. With our framework, we support the design of systems that are flexible enough to deal with dynamically changing operation contexts, and, at the same time, provide safety assurances and explainability of their autonomous decisions. It is the only approach that provides an integrated solution to this crucial research topic.
Intelligente cyber-physikalische Systeme, wie z.B. autonom fahrende Autos, Smart Homes oder E-Health Systeme, werden unser zukünftiges leben beeinflussen. Sie müssen mit zunehmend unsicheren und sich verändernden Umgebungen umgehen und dabei strikte Sicherheitsanforderungen erfüllen. Ihnen die Kontrolle über unser Leben zu überlassen, erfordert Vertrauen. Diese steigende Anzahl von zusätzlichen Anforderungen macht den Entwurf von intelligenten cyber-physischen Systemen (CPS) zu einer Herausforderung. Als Lösung für diese Herausforderungen führen wir intelligente selbst-adaptive Systeme ein, die ihre Adaptionslogik autonom an Änderungen in ihrem System, der Umgebung und ihren Zielen anpassen. Wir präsentieren eine neue Methodik zum integrierten Entwurf und zur formalen Verifikation von intelligenten und erklärbaren selbst-adaptiven Systemen und betten unsere Methodik in ein sicheres Framework ein. Unsere Kernidee ist die Kombination eines ressourcensparenden Selbstadaptionsprozesses mit der dynamischen Anpassung der Adaptionslogik zur Laufzeit und einem kontinuierlichen Verifikationsprozess. Zur Steigerung des Vertrauens in diese Systeme speichern wir Laufzeitdaten über autonome Entscheidungen und stellen diese strukturiert zur Verfügung. Unsere Hauptbeiträge sind ein effizienter und verständlicher regelbasierter Adaptionsprozess mit einer neuartigen Distanzmetrik als Entscheidungsgrundlage, ein quantitatives und kontextabhängiges Zielmodel, das die Basis für unseren Adaptionsprozess bildet, eine ressourcensparende Anpassung der Adaptionslogik zur Laufzeit, die eine kontinuierliche Evaluierung und beobachtungsbasierte Optimierung von Adaptionsregeln mit einem simulationsbasierten Lernen neuer Adaptionsregeln kombiniert, und eine kontinuierliche Verifikationsmethodik, die auf einer Formalisierung unseres regel- und distanzbasierten Adaptionsprozesses in zeitbehafteten Automaten beruht. Wir haben die Anwendbarkeit und Leistungsfähigkeit unseres Frameworks mit drei Fallstudien aus verschiedenen Domänen evaluiert: einem intelligenten Temperaturregler, einem autonomen Drohnenlieferservice und einem selbstorganisierenden Produktionssystem. Mit unserem Framework unterstützen wir den Entwurf von Systemen, die einerseits flexibel genug sind, um mit sich dynamisch ändernden Umgebungen umzugehen, und, andererseits Sicherheitszusicherungen und Erklärungen ihrer autonomen Entscheidungen geben können.