KIP-Veröffentlichungen

Typischerweise werden künstliche rekurrente neuronale Netzwerke mit back-propagation through time (BPTT) trainiert. Diese gradientenbasierte Lernmethodik ist biologisch nicht plausibel, da diese Informationen in der Zeit zurück propagiert. Entsprechende Näherungen von BPTT ermöglichen es jedoch Lernregeln zu formulieren, die nur auf In- formationen zugreifen, die vorwärts in der Zeit verfügbar sind. Solche Lernregeln können auch für rekurrente spikende neuronale Netzwerke (RSNN) gefunden werden. Da spikende Netzwerke Arbeitsprinzipien des biologischen Gehirns modellieren, wird dadurch, insbe- sondere mit sogenannten e-prop Lernalgorithmen, biologisch inspiriertes Lernen ermög- licht. Diese Arbeit untersucht die Umsetzbarkeit von e-prop inspiriertem Lernen auf dem neuromorphen BrainScaleS-2 (BSS-2) System, welches in seinem analogen Kern spiken- de neuronale Netzwerke emuliert. Dafür werden zwei unterschiedliche e-prop inspirierte Lernregeln vorgeschlagen, die den Ansprüchen des BSS-2 Systems genügen. In einen ers- ten Ansatz wird gezeigt, dass eine spike-basierte Lernregel einen Mustergenerierungstask mit RSNNs auf dem neuromorphen Substrat lösen kann. Darauf aufbauend wird eine neue on-chip Plastizitätsregel vorgestellt, die mit akkumulierten Spikekorrelationsmes- sungen Gewichtsänderungen berechnet. Für diese Lernregel wird einerseits gezeigt, dass sie Lernen in RSNNs ermöglicht und zum anderen wird deren Implementierung auf der BSS-2 Plattform ausgearbeitet. Darüber hinaus werden Softwarelösungen aufgezeigt, die Lernen auf dem BSS-2 System in höheren Softwareschichten abstrahieren.

Typically, artificial recurrent neural networks (RNNs) are trained using back-propagation through time (BPTT). Since this gradient-based learning method requires propagating information back in time, it lacks biological plausibility. However, approximations to BPTT enable describing learning rules that only rely on information accessible forward in time. Such learning rules can also be found for recurrent spiking neural networks (RSNNs). Since spiking networks model the working principles of the biological brain, this enables biologically inspired learning, particularly with so-called e-prop learning algorithms. This thesis investigates the feasibility of e-prop inspired learning on the neuromorphic BrainScaleS-2 (BSS-2) system, which emulates spiking neural networks in analog. Two distinct e-prop inspired learning rules are proposed that are compatible with BSS-2’s intrinsic characteristics. As a first approach, a pattern-generation task is solved on the neuromorphic substrate via RSNNs with a spike-based learning rule. Further, a new on-chip plasticity rule is formulated that calculates weight updates with accumulated correlation measured inherently in parallel by all synapses on the BSS-2 system. The rule’s capability to train RSNNs is demonstrated, and its implementation on the BSS-2 platform is detailed. Furthermore, software is presented, which provides modeling abstractions for hardware-in-the-loop and on-chip learning experiments.