Please use this identifier to cite or link to this item: http://dx.doi.org/10.14279/depositonce-755
Main Title: Computational Models of Primary Visual Cortex and the Structure of Natural Images
Translated Title: Modelle der Informationsverarbeitung im Primaeren Visuellen Kortex und die Struktur natuerlicher Bilder
Author(s): Bartsch, Hauke
Advisor(s): Obermayer, Klaus
Granting Institution: Technische Universität Berlin, Fakultät IV - Elektrotechnik und Informatik
Type: Doctoral Thesis
Language: English
Language Code: en
Abstract: Ziel dieser Arbeit ist es, zum Verstaendnis der Strukturen des menschlichen Gehirns beizutragen. Grosse Teile unseres Gehirns funktionieren als eine direkte Schnittstelle zu unserer Umwelt. Zwischen Umwelt und Gehirn werden kontinuierlich Informationen verarbeitet und Handlungen initiiert. Das dynamische Wechselspiel zwischen Umwelt und Gehirn macht es notwendig, auch bei der Analyse der Verschaltungsstrukturen im Gehirn ihre jeweiligen Eingaben, hier meist sensorische Signale, zu untersuchen. Auf der Grundlage einer Dualitaet von Gehirnstrukturen und sensorischen Signalen beschaeftigt sich diese Arbeit mit den folgenden beiden Themen: a) der Analyse der Funktion kortikaler Schaltkreise und b) den speziellen Anforderungen, die bei der Verarbeitung von Bildern an das Gehirn, insbesondere deren statistischen Eigenschaften gestellt werden. Nach einer kurzen Einfuehrung in die Statistik natuerlicher Bilder und die Anatomie und Funktion des visuellen Systems der Saeugetiere untersuchen wir die Verschaltungsstrukturen, die im ersten visuellen Areal gefunden werden. Insbesondere die Phaenomene der kontrastinvarianten Antwort auf orientierte Gitter als optische Stimuli und das Saettigungsverhalten der Zellen bei hohen Kontrasten in der Eingabe werden analytisch und durch Computersimulationen unterstuetzt untersucht. Das verwendete Differentialgleichungsmodell fuer gekoppelte Zellpopulationen wird schrittweise erweitert, um auch kontextabhaengige Effekte untersuchen zu koennen. Hierbei haengt die Antwort einer Zelle von den Reizen in ihrer weiteren Umgebung ab. Wir zeigen unter anderem, dass zwei unterschiedliche Effekte zu den Kontextmodulationen beitragen: zum einen lokale Hemmung (Inhibition), die durch eine Aenderung in der Struktur der Eingabe bestimmt werden, und des weiteren durch den Effekt der Dis-inhibition. Die Analyse von Bildern unserer Umgebung ist das Hauptziel im zweiten Teil der Arbeit. Sie sind der Input in das visuelle System. Wir formulieren die Hypothese, dass wichtige Eigenschaften von Bildern durch ihre inhaerenten Invarianzen und Symmetrien definiert werden. Um diese Hypothese zu testen, fuehren wir ein mathematisches Mass fuer lokale Symmetrien in raeumlichen Mustern ein. Anwendungen auf den Gebieten der Objektidentifikation, der Objektausrichtung und der Landmarkenfindung unterstreichen die Vorzuege der Strukturanalyse gegenueber einer reinen Formanalyse. Zwei neue Algorithmen werden vorgestellt um Eigenschaften hoeherer Ordnung in Bildern zu lernen. Der erste basiert auf dem Modell eines zentralisierten Gauss'schen- Mixture Modells und extrahiert Merkmale dadurch, dass er ein Modell der Verteilungsfunktion der Daten lernt. Die gelernten Merkmale sind denen anderer Modelle erster Ordnung hinsichtlich der Populationsantworteigenschaften ueberlegen. Ausgehend von geometrischen Ueberlegungen zu Mannigfaltigkeiten in hochdimensionalen Raeumen fuehren wir eine Transformation in einen nicht-linearen Merkmalsraum ein, in dem Korrelationen beliebiger Ordnung mit linearen Methoden gelernt werden koennen. Im Kontext der Independent Component Analysis als einem Beispiel fuer einen Algorithmus der explorativen Datenanalyse kann die Transformation dazu benutzt werden, um ueber-komplette Basisfunktionen zu lernen.
Understanding the function of the brain appears to be mainly an introspective task. Nevertheless, large parts of our brain are used as a direct interface to our environment. They constantly acquire information and control our actions. The dynamic interweaving of brain and environment opens a dual route to the understanding of cortical processing. Based on that insight the present work focuses on the following two issues: a) analyzing the functional role of cortical networks, and b) analyzing the special requirements imposed onto the brain by the statistics of its input, namely the statistics of natural images. After an introduction into both, natural images and the mammalian visual system, we first analyze the connection scheme found in the primary visual cortex at different levels of abstraction. We start by deriving a system of coupled differential equations describing a column of excitatory and inhibitory neurons. Phenomena like contrast invariant orientation tuning and contrast saturation are investigated which have been found important features of cortical neurons. The initial model is extended to explain also response properties related to contextual effects. There stimuli presented outside the classical receptive field of the neuron can modulate its response. Principle difficulties in having cross-orientation modulations by iso-orientation specific patchy connections are shown. In explaining cross-orientation modulations we analyze the effect of the distinctive spatial layout of the cortex. We found that two opposite effects contribute to the observed contextual modulation; (i) local inhibition that is induced by a local change in input (leads to suppression), and (ii) dis-inhibition. The second part deals with the input of the visual system, namely pictures of scenes encountered in the surrounding world. We formulate the hypothesis that higher order features in spatial pattern can be described in terms of intrinsic invariance and symmetry and introduce a mathematical formulation of smooth local symmetries. Applications for object classification, image alignment, and landmark detection illustrate the principle advantage of our structure analysis over methods of shape analysis. Two new algorithms are introduced to efficiently learn higher order features. The first one introduces a centralized Gaussian mixture model to extract second-order features estimating the density of the data. The obtained code is shown to outperform other known linear codes by being well distributed and by showing a high population sparseness, both are preferable properties in coding of natural images. Originating from geometrical considerations of manifolds in high dimensional spaces we introduce a non-linear transformation and by this a family of feature spaces that are shown to be useful to detect correlation of a specific order in the data. Moreover it is shown that these correlations can be learned in the feature space by linear methods. This general property of the transformation is interesting for a large class of algorithms in the field of explorative data analysis. In the context of independent component analysis this transformation defines a feature space in which the assumption of independent sources can be fulfilled for a set of over-complete basis functions.
URI: urn:nbn:de:kobv:83-opus-6565
http://depositonce.tu-berlin.de/handle/11303/1052
http://dx.doi.org/10.14279/depositonce-755
Exam Date: 1-Dec-2003
Issue Date: 11-May-2004
Date Available: 11-May-2004
DDC Class: 004 Datenverarbeitung; Informatik
Subject(s): Biologische Modellierung
Natuerliche Bilder
Primaerer visueller Kortex
Symmetrie
Biological modeling
Natural images
Primary visual cortex
Symmetry
Usage rights: Terms of German Copyright Law
Appears in Collections:Technische Universität Berlin » Fakultäten & Zentralinstitute » Fakultät 4 Elektrotechnik und Informatik » Publications

Files in This Item:
File Description SizeFormat 
Dokument_12.pdf11.24 MBAdobe PDFThumbnail
View/Open


Items in DepositOnce are protected by copyright, with all rights reserved, unless otherwise indicated.