StartseiteKNN - Was ist das?Biologische GrundlagenMathematischer HintergrundNetzstrukturenLernverfahrenAnwendungen

Lernverfahren:

Überwachtes Lernen

Bestärkendes Lernen

Unüberwachtes Lernen

Überwachtes Lernen:

Hebbsche Lernregel

Delta Regel

Backpropagation

Allgemein:

Startseite

Unser Team

Quellenangabe

Haftungsausschluss

Donald Olding Hebb

(* 22. Juli 1904 in Chester, Nova Scotia (Kanada); 20. August 1985) Seine berühmteste Arbeit (The Organization of Behavior, 1949) befasst sich mit neurobiologischen Prinzipien des Lernens in neuronalen Netzen in der er die nach ihm benannte Hebbsche Lernregel verfasste.

Donald Olding Hebb verfasste eine Regel über das Lernen, welche das Lernen in neuronalen Netzen bzw. einer Gruppe von Neuronen, die gemeinsame Synapsen haben, beschreibt.

Er formulierte 1949 in seinem Buch „The Organization of Behavior„:

„Wenn ein Axon der Zelle A...Zelle B erregt und wiederholt und dauerhaft zur Erzeugung von Aktionspotenzialen in Zelle B beiträgt, so resultiert dies in Wachstumsprozessen oder metabolischen Veränderungen in einer oder in beiden Zellen, die bewirken, dass die Effizienz von Zelle A in Bezug auf die Erzeugung eines Aktionspotenzials in B größer wird.„



Das heißt also, je häufiger ein Neuron A gleichzeitig mit Neuron B aktiv ist, umso bevorzugter werden die beiden Neuronen aufeinander reagieren ("what fires together, wires together"). Er konnte dies durch die Veränderung der synaptischen Übertragung zwischen Neuronen nachweisen.

Mit dieser Erkenntnis gilt Donald Olding Hebb als der Entdecker der synaptischen Plastizität, welche die neurophysiologische Grundlage von Lernen und Gedächtnis darstellt.

Die Abbildung des neuronalen Graphen stellt diese Veränderung der synaptischen Übertragung, auch Gewichtsänderung genannt, in künstlichen neuronalen Netzen dar.

Die Hebbsche Lernregel ist die älteste und einfachste neuronale Lernregel:



Hierbei ist Δwij die Veränderung des Gewichtes von Neuron i zu Neuron j (also die Änderung der Verbindungsstärke dieser beiden Neuronen), η eine geeignet zu wählende Lernrate (ein konstanter Faktor), aj die Aktivierung von Neuron j und oi die Ausgabe von Neuron i, das mit Neuron j verbunden ist.

Genau genommen stammt Hebbs Lernregel jedoch nicht von ihm, sondern von William James, der schon 60 Jahre früher, nämlich 1890, in „Principles of Psychology„ diese Regel formulierte. Auch Freud hat diese Idee kurz darauf im Jahre 1896 bereits ähnlich formuliert.

Weiter zu » Delta Regel