Thumbnail Image

Numerical approximation of optimal control problems for stochastic neuron models in infinite dimensions

Vogler, Alexander

In this dissertation we investigate optimal control problems subject to stochastic models in infinite dimensions arising in computational neuroscience. In particular we consider stochastic mean-field models and stochastic reaction-diffusion models. In the first part of this work, we extend the existing control theory for mean-field equations to a particular class of nonlinear models that covers some of the key features of stochastic mean-field models arising in computational neuroscience. For these type of models we discuss well-posedness of the control problem and derive necessary optimality conditions. Furthermore we develop a gradient descent algorithm to approximate optimal controls and provide explicit numerical examples. The second part of this dissertation is devoted to the numerical approximation of optimal control problems governed by stochastic reaction-diffusion equations. We derive approximation results, which provide the basis for the approximation of optimal feedback controls by artificial neural networks. Based on our results we develop an efficient gradient descent algorithm to approximate optimal feedback controls and support our theoretical results by numerical simulations. The last part of this dissertation is dedicated to the higher order weak approximation of stochastic differential equations with a view towards efficient numerical implementation. We derive convergence results for a splitting-type scheme based on a signature approximation of the driving noise and provide stability estimates. Finally we discuss an example for the application of the splitting scheme in the context of numerical approximations of optimal control problems.
Diese Arbeit befasst sich mit der optimalen Kontrolle von unendlich dimensionalen stochastischen Modellen aus dem Bereich der Computational Neuroscience. Dabei werden stochastische Mean-Field Modelle und stochastische Reaktions-Diffusions-Modelle betrachtet. Im ersten Teil der Arbeit wird die existierende Kontrolltheorie für eine Klasse von nichtlinearen Mean-Field Modellen erweitert, welche wesentliche Eigenschaften von stochastischen Mean-Field Modellen aus dem Bereich der Computational Neuroscience abdeckt. Für diese Klasse von Modellen untersuchen wir die Wohlgestelltheit des Kontrollproblems und leiten notwendige Optimalitätsbedingungen her. Des Weiteren entwickeln wir ein Gradientenverfahren um optimale Kontrollen zu approximieren und geben explizite numerische Beispiele. Der zweite Teil der Arbeit befasst sich mit der numerischen Approximation von optimalen Kontrollproblemen für stochastische Reaktions-Diffusions-Gleichungen. Wir leiten Approximationsresultate her, welche die Basis für eine Approximation von optimalen Kontrollen durch künstliche neuronale Netze bilden. Basierend auf unseren Resultaten entwickeln wir ein Gradientenverfahren für die Approximation von optimalen Feedback-Kontrollen. Unsere theoretischen Resultate werden durch numerische Simulationen gestützt. Der letzte Teil der Dissertation befasst sich mit der schwachen Approximation von stochastischen Differentialgleichungen, mit Hinblick auf die effiziente numerische Implementierung. Wir leiten Konvergenzresultate für ein Splitting Verfahren basierend auf einer Signatur-Approximation des Noise Prozesses her und geben Stabilitätsabschätzungen an. Am Ende wird die Anwendung des Splitting Verfahrens im Kontext der numerischen Approximation von optialen Kontrollen an einem Beispiel diskutiert.