Please use this identifier to cite or link to this item: http://dx.doi.org/10.14279/depositonce-8126
Main Title: Distributed and sparse signal processing
Subtitle: architectures, algorithms and nonlinear estimators
Translated Title: Verteilte und dünn-besetzte Signalverarbeitung
Translated Subtitle: Architekturen, Algorithmen und nichtlineare Schätzer
Author(s): Limmer, Steffen
Advisor(s): Stanczak, Slawomir
Referee(s): Stanczak, Slawomir
Bölcskei, Helmut
Larsson, Erik G.
Granting Institution: Technische Universität Berlin
Type: Doctoral Thesis
Language Code: en
Abstract: The 21st century will be remembered for the ubiquity of data. Data analysis has become an indispensable tool for finding patterns in high-dimensional datasets, and the steep increase in computational power allows us to execute ever more sophisticated algorithms. However, it is not foreseeable that the rise of computational resources alone will evade the curse of dimensionality attached to problems in optimization, approximation and integration. Therefore, we need better tools to understand and process high-dimensional data as well as networks to distribute the relevant information efficiently. This thesis is devoted to the study of tools which allow us to exploit parsimonious structure for problems in distributed and sparse signal processing. The first part deals with the problem of distributed signal processing. It amounts to studying different notions of parsimony which allow for the computation of nonlinear functions in a communication-efficient manner. The identified sets of functions exhibit favorable properties connected to the concepts of effective dimension and analysis of variance (ANOVA). For the second part of the thesis, we study a different notion of parsimony for inverse problems, i.e., problems of reconstructing a phenomenon we can only partially observe. The main ingredient of our consideration is a statistical model for sparsity and compressibility which allows us to determine the reconstruction error in the non-asymptotic regime. In this regard, our aim is to provide a better understanding of the trade-off between expected performance on the one hand, and computational complexity of architectures for nonlinear estimation on the other.
Das 21. Jahrhundert wird wegen der Allgegenwart von Daten in Erinnerung bleiben. Datenanalyse ist zu einem unverzichtbaren Werkzeug geworden, um Muster in hochdimensionalen Datensätzen zu finden. Dabei ermöglicht uns die starke Zunahme der Rechenleistung, immer fortschrittlichere Algorithmen auszuführen.Es ist jedoch nicht vorhersehbar, dass der Anstieg der Rechenressourcen allein den Fluch der Dimensionalität für Probleme der Optimierung, Approximation und Integration brechen wird. Daher benötigen wir bessere Werkzeuge zum Verständnis und zur Verarbeitung hochdimensionaler Daten sowie Netzwerke, um die relevanten Informationen effizient zu verteilen. Diese Arbeit widmet sich der Untersuchung von Werkzeugen, die es uns ermöglichen, Strukturen der Einfachheit für Probleme der verteilten und dünnbesetzten Signalverarbeitung zu nutzen. Der erste Teil beschäftigt sich mit dem Problem der verteilten Signalverarbeitung, wobei wir verschiedene einfache Strukturen untersuchen, die die Berechnung nichtlinearer Funktionen auf kommunikationseffiziente Weise ermöglichen. Die identifizierten Funktionsmengen besitzen vorteilhafte Eigenschaften im Zusammenhang mit den Konzepten der effektiven Dimension und der Varianzanalyse (ANOVA). Im zweiten Teil der Arbeit untersuchen wir eine weitere Form der einfachen Strukturen für inverse Probleme, bei denen ein Phänomen basierend auf partiellen Beobachtungen rekonstruiert werden soll. Den Kern unserer Betrachtung bildet ein statistisches Modell für dünnbesetzte und komprimierbare Daten, welches es uns ermöglicht, den Rekonstruktionsfehler im nicht-asymptotischen Bereich zu bestimmen. In diesem Zusammenhang ist unser Ziel, ein besseres Verständnis des Abtauschs zwischen erwarteter Schätzgüte auf der einen Seite, und der Komplexität von Architekturen der nichtlinearen Schätzung auf der anderen Seite, zu erlangen.
URI: https://depositonce.tu-berlin.de/handle/11303/9010
http://dx.doi.org/10.14279/depositonce-8126
Exam Date: 8-Jan-2019
Issue Date: 2019
Date Available: 7-Mar-2019
DDC Class: 620 Ingenieurwissenschaften und zugeordnete Tätigkeiten
Subject(s): signal processing
estimation theory
neural networks
machine learning
sparse recovery
Signalverarbeitung
Schätztheorie
neuronale Netze
maschinelles Lernen
dünnbesetzte Rekonstruktion
License: http://rightsstatements.org/vocab/InC/1.0/
Appears in Collections:Inst. Telekommunikationssysteme » Publications

Files in This Item:
File Description SizeFormat 
limmer_steffen.pdf3.53 MBAdobe PDFThumbnail
View/Open


Items in DepositOnce are protected by copyright, with all rights reserved, unless otherwise indicated.