Please use this identifier to cite or link to this item: http://dx.doi.org/10.14279/depositonce-7657
Main Title: Data and container placement in scalable data analytics platforms
Translated Title: Daten und Container Platzierung für skalierbare Datenanalyseplattformen
Author(s): Renner, Thomas
Advisor(s): Kao, Odej
Referee(s): Kao, Odej
Brandić, Ivona
Rabl, Tilmann
Granting Institution: Technische Universität Berlin
Type: Doctoral Thesis
Language Code: en
Abstract: Distributed dataflow systems process large volume of data in parallel on multiple machines. In production, multiple dataflow applications are scheduled for execution in virtual containers on a per-job basis. Furthermore, they access datasets partitioned into datablocks across the cluster machines' disks. Runtime performance is important for many of these jobs, as their users expect fast results. However, optimizing performance is difficult, because dataflow jobs are very diverse and used in a wide variety of domains such as relational processing, machine learning, and graph processing. Container and datablock placement decisions impact a job's runtime performance significantly. Furthermore, changing placements affects runtime performance without modifying the application's code, and thus can be applied to many jobs without much configuration effort from the user's side. However, jobs benefit differently from placement decisions, because their resource demands differ from job to job. Hence, there is not a single placement strategy that is optimal for all possible jobs. Besides that, users require a secure long-term data retention for their documents and datasets. This thesis presents container and datablock placement strategies to optimize the runtime performance of distributed dataflow applications running on shared data analytics platforms. It contributes two placement methods for this. The first method improves the efficiency of a job's dataflow operations and the degree of data locality by colocating its input datablocks and containers on a selected set of nodes. The second method places a job's containers based on network distances between containers and its input datablocks as well as container interference. In addition, this thesis explores the problem of data retention in shared data analytics platforms. Therefore, it contributes a method of storing and accessing lineage metadata through smart-contracts executed on a decentralized blockchain network. The methods presented in this thesis have been implemented in a research prototype that has been integrated with Hadoop and Ethereum. For evaluation, we used a 64 nodes commodity cluster and workloads consisting of applications implemented in Flink from the domains of relational processing, machine learning, and graph processing. We compared the runtime performance of workloads scheduled with our methods with Hadoop's default placement method. For our blockchain-based data retention method, we measured overhead in terms of additional response time and reported costs using it on Ethereum's blockchain network.
Verteilte Datenflusssysteme ermöglichen, große Datenmengen parallel auf mehreren Rechnern zu verarbeiten. Ressourcen werden ihnen mittels virtueller Container zugewiesen und Eingabedaten werden von den lokalen Festplatten der verteilten Rechner gelesen. Mehrere Datenflussprogramme können zeitgleich auf einem gemeinsamen Rechencluster ausgeführt werden. Schnelle Ergebnisse sind ein wichtiges Kriterium für viele Nutzer. Wesentlichen Einfluss auf die Ausführungsgeschwindigkeit der Datenflussprogramme haben der Ausführungsort der Container sowie der Speicherort der Eingabedatenblöcke. Zudem sind die Datenflussanwendungen vielseitig und unterscheiden sich hinsichtlich ihres Ressourcenbedarfs, wodurch sie unterschiedlich auf ausgewählte Ausführungs- und Speicherorte reagieren. Aus diesem Grund ist es schwierig, eine Platzierungsstrategie zu entwickeln, welche eine optimale Ausführungsgeschwindigkeit für alle Arten von Datenflussanwendungen erzielt. Neben einer schnellen Ausführungsgeschwindigkeit benötigen Nutzer eine langfristige und sichere Speicherung ihrer Daten. Diese Doktorarbeit präsentiert zwei Datenblock- und Containerplatzierungsmethoden, um die Ausführungsgeschwindigkeit von Datenflussanwendungen zu verbessern. Die erste Methode verbessert die Effizienz der Datenflussoperatoren eines Jobs, indem sie die Eingabedatenblöcke mit Ausführungscontainer auf einer Gruppe von Rechnern kolokalisiert. Die zweite Strategie platziert die Container eines Jobs basierend auf Netzwerk-Hops zwischen Containern und seinen Eingabedatenblöcken sowie Containerinterferenzen. Außerdem erforscht die Arbeit das Problem der Datenspeicherung in geteilten Datenanalyseplattformen durch eine Methode zum Speichern von Linage-Metadaten in einem Blockchain-Netzwerk. Die vorgestellten Methoden wurden in einem Prototyp implementiert und mit den Open-Source Systemen Hadoop und Ethereum integriert. Die Evaluierung wurde auf einem Commodity Cluster bestehend aus 64 Rechnern ausgeführt. Für die Experimente wurde das verteilte Datenflusssystem Flink verwendet und Programme aus den Domänen relationale Datenverarbeitung, maschinelles Lernen, und verteilte Graphanalyse ausgeführt. Es wurden die Ausführungszeiten der in dieser Arbeit entwickelten Methoden platzierten Anwendungen gegenüber Ausführungszeiten durch Hadoop platzierten Anwendungen verglichen. Für die Blockchain-basierte Langzeitspeicherungsmethode haben wir zusätzliche Antwortzeit, Skalierbarkeit sowie anfallenden Kosten auf Ethereums Blockchain-Netzwerk gemessen.
URI: https://depositonce.tu-berlin.de//handle/11303/8511
http://dx.doi.org/10.14279/depositonce-7657
Exam Date: 30-Oct-2018
Issue Date: 2018
Date Available: 4-Jan-2019
DDC Class: 000 Informatik, Informationswissenschaft, allgemeine Werke
Subject(s): data analytics
big data
cloud computing
distributed dataflows
resource management
skalierbare Datenanalyse
verteilte Datenflüsse
Ressourcenmanagement
Sponsor/Funder: DFG, FOR 1306, Stratosphere - Information Management on the Cloud
BMBF, 01IS14013A, Verbundprojekt: BBDC - Berliner Kompetenzzentrum für Big Data
License: https://creativecommons.org/licenses/by/4.0/
Appears in Collections:FG Komplexe und Verteilte IT-Systeme » Publications

Files in This Item:
File Description SizeFormat 
renner_thomas.pdf1.56 MBAdobe PDFView/Open


This item is licensed under a Creative Commons License Creative Commons