Neuronale Netze - Nichtlineare Systeme
LIN 8080

Ein wesentliches Merkmal biologischer Nervensysteme ist das sinnvolle Ergänzen unvollständiger Informationen aus der Umwelt. Ein solcher Vorgang wird ansatzweise über Rückkopplungs Verfahren in Neuronalen Netzen nachgestellt. Aus einem unvollständigen Ausgabemuster, das dem Neuron wieder zurückgereicht wird, werden die Lücken aus den intakten Teilen teilweise ergänzt. Im mathematischen Sinne sind dies nichtlineare Systeme.

Ein Weg, dies zu erreichen, ist, ein Neuron in die Lage zu versetzten, seinen Ausgang in Abhängigkeit einer Gruppe von anderen Neuronen zu bilden. Diesen Vorgang wiederholt man, bis sich keine Änderungen mehr einstellen. Man sagt, das System hat ein minimales Becken erreicht. Manche Systeme zeigen auch oszillierendes Verhalten, sie konvergieren nicht.

Die lineare Überlagerung mehrerer Eingangsmuster bringt so nicht mehr die selben Ausgabemuster. Es lassen sich Ausgabemuster erreichen, die einige Neuronen weiter zu völlig anderen (anwendungsbezogenen) Reaktionen führen können. Entsprechend steigt aber die erforderliche Rechenzeit an, was bei vielen Neuronen unter Umständen länger als 10 Jahre dauern kann.

Nichtlineare Systeme reagieren aber um ein Vielfaches empfindlicher. Man führt einige Neuerungen ein, um sie etwas zu vereinfachen. Zum einen sind dies dissipative Systeme (zeitassymtotische Veringerung des Phasenraumes, topologisch transitive Untermengen Ausbildung). Merkmal sind Attraktoren, die hauptsächlich in vier Typen gegliedert sind. Fixe Punkte, perjodische Orbits (Wahrscheinlichkeitsdichten) oder begrenzte Zyklen, Quasiperiodische Orbits und wilde, chaotiscche Attraktoren.

Als Beispiel sei eine Formel wiedergegeben: x_n+1 = a * x_n * (1 - x_n) für n = 1, 2, ... Hierbei ist a ein positiver Steuerungsparameter, der von 0 bis etwa 3,65 (dannach beginnt das Chaos) Werte annimmt und dadurch verschiedene Zahlenfolgen ausgibt, die das Verhalten eines Attraktors veranschaulichen. Viele nichtlineare Systeme zeigen vergleichbares Verhalten, wenngleich sie mehrere Attraktoren haben können.

Lyapunov Exponenten (zeitabhängige Störungsausbreitung) stellen eine präzise Definition chaotischer Systeme dar. Sie beschreiben die konvergierende bzw. kontrahierende Geschwindigkeit der Bahnen in einem Phasenraum. Zum Beispiel hat ein dreidimensionales Punktattraktor System drei negative Lyapunov Exponenten. Das meint, die drei Dimensionen kontrahieren zu einem Punkt.

Beispiel für fraktale Dimensionen ist ein zweidimensionales Papier, das man zusammenknüllt, wodurch es eigentlich drei Dimensionen innehat, tatsächlich aber nur aus zwei in sich verschlungenen Dimensionen besteht. Es ist fraktal dimensioniert, was für chaotische Attraktoren auch zutrifft. Man versucht, chaotische Systeme zu beschreiben, und erreicht erstaunliche beschreibende Modelle, um scheinbar zufällige Ereignisse als deterministisch gesteuerte Systeme darzustellen.

Ein anderer Ansatz geht davon aus, dass die Zeitfolge ein Ergebniss eines dynamischen Systems ist, denn viele Ereignisse wiederholen sich nach einiger Zeit vorhersagbar und man ist bemüht, mit wenigen Variablen eine Beschreibung zu erreichen. Dies lässt sich in kleinen Bereichen unter Aufteilen der Wahrscheinlichkeitsfunktionen in unabhängig voneinander existierenden Wechselwirkungen erreichen.

LIN 8080