Neuronale Netze - Differentiale
LIN 8080

Als Ableitung einer Funktion bezeichnet man die momentane Änderung der Funktion an einer beliebigen Stelle der unabhängigen Variable x. Veranschaulicht wird dies als Flächeninhalt unter einer Kurve gesehen für die Strecke von x1 bis x2. Eine Ableitung existiert, wenn für f(x) ein Grenzwert existiert.

Die Differenz zwischen zwei Punkten x1 und x2 ist (x2 - x1) = delta_x (sprich: "delta", gr., Differenz). Geometrisch lässt sich dies als Sekante zu einem Kurvenausschnitt deuten, was eigentlich bekannt ist als Steigung einer Geraden (neu daran ist, dass diese Gerade nicht gerade sein muss).

Der Grenzwert einer Funktion f(x) wird geschrieben als: lim[x->a] f(x) = f(a), wobei sich x an den Wert a annähert. Wenn es keinen Grenzwert (Limes) gibt, spricht man vom uneigentlichen Grenzwerten (z.B.: Winkelfunktionen). Manche Funktionen haben nur einen Grenzwert für negative oder positive x, oder es gibt nur in bestimmten Intervallen (Werte für x) einen Grenzwert, was dann in einer entsprechenden Schreibweise Ausdruck findet. Man sagt, die Funktion f(x) ist an der Stelle f = a stetig, wenn die Funktion bei a definiert ist.

Allgemein wird dy / dx = lim[delta_x->0] ( f(x + delta_x ) - f(x) ) / delta_x als Differenzial bezeichnet. Ableitungen dazu finden sich am einfachsten in Tabellen zu Formelbüchern. Manchmal muss man komplizierte Funktionen vorher zerlegen, so dass einfachere Ausdrücke entstehen. (Beispiel: dy / dx = lim[delta_x->0] (- 4x - 2 delta_x + 3) führt zu (-4x + 3) als f(x).)

Ein wichtiges Einsatzgebiet bei Neuronalen Netzen findet sich im Zusammenhang mit Optimierungsaufgaben. Meist wird dabei nach dem Maxima oder Minimum einer Funktion gesucht, beispielsweise das minimale Fehlerquadrat.

Dreht man die Sache um, d.h. sucht zu einer Funktion die Orginal- oder Gegenfunktion, nennt man das Integralrechnung.

Differenzialgleichungen sind Gleichungen, die Ableitungs- oder Differential-Therme enthalten. Meist tritt die Zeit darin als unabhängige Variable auf und man beschreibt damit dynamische Systeme (was meist mehrere Gleichungen erfordert). Die Ordnung einer Differential Gleichung richtet sich nach der höchsten Potenz der Gleichung.

LIN 8080