| Autor(en): |
Pietro Berkes |
Titel: |
Temporal slowness as an unsupervised learning principle – self-organization of complex-cell receptive fields and application to pattern recognition |
| Gutachter: |
Andreas Herz; Laurenz Wiskott; Peter König |
| Erscheinungsdatum: |
31.01.2006 |
| Volltext: |
pdf
(urn:nbn:de:kobv:11-10058759)
|
| Fachgebiet(e): |
Biowissenschaften, Biologie |
| Schlagwörter (ger): |
Mustererkennung, zeitliche Langsamkeit, komplexe Zellen, slow feature analysis, SFA, rezeptive Felder, quadratische Formen |
| Schlagwörter (eng): |
temporal slowness, complex cells, slow feature analysis, SFA, receptive fields, quadratic forms, pattern recognition, feature extraction |
| Einrichtung: |
Humboldt-Universität zu Berlin, Mathematisch-Naturwissenschaftliche Fakultät I |
Metadatenexport:
 Um
den gesamten Metadatensatz im Endnote- oder
Bibtex-Format zu speichern,
klicken Sie bitte auf den entsprechenden Link.
|
Endnote
Bibtex
|
| print on demand:
Wenn
Sie auf dieses Icon klicken, können Sie
ein Druckexemplar dieser Publikation bestellen.
|
|
| Diese Seite taggen:
Diese
Icons führen auf so genannte Social-Bookmark-Systeme, auf denen Sie
Lesezeichen anlegen, persönliche Tags vergeben und Lesezeichen anderer Nutzer
ansehen können.
|
|
| Abstract (ger): |
| In dieser Doktorarbeit untersuchen wir zeitliche Langsamkeit als
Prinzip für die Selbstorganisation des sensorischen Kortex sowie für
computer-basierte Mustererkennung. Wir beginnen mit einer Einführung
und Diskussion dieses Prinzips und stellen anschliessend den Slow
Feature Analysis (SFA) Algorithmus vor, der das matemathisches Problem
für diskrete Zeitreihen in einem endlich dimensionalen Funktionenraum
löst. Im Hauptteil der Doktorarbeit untersuchen wir zeitliche
Langsamkeit als Lernprinzip für rezeptive Felder im visuellen Kortex.
Unter Verwendung von SFA werden Transformationsfunktionen gelernt,
die, angewendet auf natürliche Bildsequenzen, möglichst langsam
variierende Merkmale extrahieren. Die Funktionen können als
nichtlineare raum-zeitliche rezeptive Felder interpretiert und mit
Neuronen im primären visuellen Kortex (V1) verglichen werden. Wir
zeigen, dass sie viele Eigenschaften von komplexen Zellen in V1
besitzen, nicht nur die primären, d.h. Gabor-ähnliche optimale Stimuli
und Phaseninvarianz, sondern auch sekundäre, wie
Richtungsselektivität, nicht-orthogonale Inhibition sowie End- und
Seiteninhibition. Diese Resultate zeigen, dass ein einziges
unüberwachtes Lernprinzip eine solche Mannigfaltigkeit an
Eigenschaften begründen kann. Für die Analyse der mit SFA gelernten
nichtlinearen Funktionen haben wir eine Reihe mathematischer und
numerischer Werkzeuge entwickelt, mit denen man die quadratischen
Formen als rezeptive Felder charakterisieren kann. Wir erweitern sie
im weiteren Verlauf, um sie von allgemeinerem Interesse für
theoretische und physiologische Modelle zu machen. Den Abschluss
dieser Arbeit bildet die Anwendung des Prinzips der zeitlichen
Langsamkeit auf Mustererkennungsprobleme. Die fehlende zeitliche
Struktur in dieser Problemklasse erfordert eine Modifikation des
SFA-Algorithmus. Wir stellen eine alternative Formulierung vor und
wenden diese auf eine Standard-Datenbank von handgeschriebenen Ziffern
an.
|
| Abstract (eng): |
| In this thesis we investigate the relevance of temporal slowness as a
principle for the self-organization of the visual cortex and for
technical applications. We first introduce and discuss this principle
and put it into mathematical terms. We then define the slow feature
analysis (SFA) algorithm, which solves the mathematical problem for
multidimensional, discrete time series in a finite dimensional
function space. In the main part of the thesis we apply temporal
slowness as a learning principle of receptive fields in the visual
cortex. Using SFA we learn the input-output functions that, when
applied to natural image sequences, vary as slowly as possible in time
and thus optimize the slowness objective. The resulting functions can
be interpreted as nonlinear spatio-temporal receptive fields and
compared to neurons in the primary visual cortex (V1). We find that
they reproduce (qualitatively and quantitatively) many of the
properties of complex cells in V1, not only the two basic ones, namely
a Gabor-like optimal stimulus and phase-shift invariance, but also
secondary ones like direction selectivity, non-orthogonal inhibition,
end-inhibition and side-inhibition. These results show that a single
unsupervised learning principle can account for a rich repertoire of
receptive field properties. In order to analyze the nonlinear
functions learned by SFA in our model, we developed a set of
mathematical and numerical tools to characterize quadratic forms as
receptive fields. We expand them in a successive chapter to be of more
general interest for theoretical and physiological models. We
conclude this thesis by showing the application of the temporal
slowness principle to pattern recognition. We reformulate the SFA
algorithm such that it can be applied to pattern recognition problems
that lack of a temporal structure and present the optimal solutions in
this case. We then apply the system to a standard handwritten digits
database with good performance.
|
Zugriffsstatistik:
Die Daten für die Zugriffsstatistik der einzelnen Dokumente
wurden aus den durch AWSTATS aggregierten Webserver-Logs erstellt.
Sie beziehen sich auf den monatlichen Zugriff auf den Volltext sowie
auf die Startseite.
Bei Formatversionen eines Dokuments, die aus mehreren Dateien bestehen
(insbesondere HTML), wird jeweils der monatlich höchste Zugriffswert
auf eine der Dateien (Kapitel) des Dokuments angezeigt.
Um die detaillierten Zugriffszahlen zu sehen,
fahren Sie bitte mit dem Mauszeiger
über die einzelnen Balken des Diagramms.
|
  | | | | | | | | | | | | | | | | | | | | | | | | Feb
08 | Mar
08 | Apr
08 | May
08 | Jun
08 | Jul
08 | Aug
08 | Sep
08 | Oct
08 | Nov
08 | Dec
08 | Jan
09 | Feb
09 | Mar
09 | Apr
09 | May
09 | Jun
09 | Jul
09 | Aug
09 | Sep
09 | Oct
09 | Nov
09 | Dec
09 | Jan
10 |
Gesamtzahl der Zugriffe seit Feb/2008: - Startseite – 200 (8.33 pro Monat)
- PDF – 428 (17.83 pro Monat)
|
