Superschlau, schnell und energieschonend: Neuromorphes Rechnen läutet ein neues Paradigma für die Künstliche Intelligenz ein

»Ganz selbstverständlich greifen wir heute auf Tools wie ChatGPT, Übersetzungsdienste oder Sprachassistenten zurück. KI-basiert liefern sie binnen weniger Sekunden Antworten auf eine Vielzahl von Themen und Fragen: Sie recherchieren, formulieren und kalkulieren, liefern Inspiration oder machen das Lernen zum Kinderspiel«, sagt Dr. Sven Zimmermann, Leiter der Gruppe »Nanobauelemente/PVD« am Fraunhofer ENAS, der am Thema des neuromorphen Computings am Chemnitzer Institut forscht.

Ein Blick in 100 Jahre Geschichte: Meilensteine und Schlaglichter der KI

KI sei längst in unserem Alltag angekommen – und das nicht erst in den vergangenen drei Jahrzehnten, so der Wissenschaftler. Bereits vor knapp 100 Jahren legte der britische Mathematiker und Informatiker Alan Turing die ersten Grundlagen für intelligente Systeme, die in der Lage waren, kognitive Algorithmen zu verarbeiten. Mit dem von ihm in den 1950er Jahren entwickelten sogenannten »Imitation Game«, das heute als »Turing Test« bekannt ist, stellte er bedeutende Weichen für KI. 

»Seine Untersuchungsmethode, die aus einem Frage-Antwort-Spiel zwischen Mensch und Maschine bestand, sollte Rückschlüsse darauf ermöglichen, ob Computer wie Menschen denken können. Wenn der Fragende den Unterschied, ob es sich bei seinem Gegenüber um eine reale Person oder um einen computerbasierten ›Gesprächspartner‹ handelte, nicht eindeutig erkennen konnte, hatte der Computer den Test bestanden und galt somit nach dem damaligen Verständnis als intelligent«, so Sven Zimmermann.

Vierzig Jahre später besiegte der KI-Computer »Deep Blue« des IT-Giganten IBM den bis dahin amtierenden Schachweltmeister Garry Kasparov in einem aufsehenerregenden Turnier. »Dieses Match läutete eine Trendwende ein und rückte das Thema KI zum ersten Mal in die öffentliche Wahrnehmung. Ein Computer, der dank ausgeklügelter Deep-Learning-Algorithmen hochkomplex denken, strategisch agieren sowie mehrere Millionen von Schachzügen erlernen und anwenden konnte, war bis dahin kaum vorstellbar und zeigte eindrucksvoll die enormen Potentiale der KI«, erklärt der Fraunhofer-Forschende zur sensationellen Schachpartie.

Zwanzig Jahre nach diesem historischen Sieg stellte der IT-Hersteller Apple mit seinem Sprachassistenten »Siri« (Speech Interpretation and Recognition Interface) als Teil des seinerzeit neuesten iPhones ein intelligentes neues Feature vor, das alle Fragen des täglichen Lebens via Sprachsteuerung beantworten konnte. Damit machte der Technologiehersteller KI für Verbraucherinnen und Verbraucher im Alltag verfügbar.

Nur wenige Jahre später trat IBM mit seinem KI-basierten »Project Debater« erneut gegen zwei menschliche Kontrahenten an – dieses Mal erstmals in einem öffentlich ausgetragenen Debatierduell gegen Argumentationsprofis. Der KI-Superrechner war in der Lage, Millionen von Quellen und Datenbanken zu den Themen Weltraumforschung und Telemedizin zu scannen, aufzubereiten, selbstständig Argumente zu sammeln, sinnvoll in einem Redebeitrag zusammenzuführen und auf Gegenargumente seiner Diskussionspartner zu reagieren.

Erst in diesem Jahr wurde bekannt, dass die modernen Sprachmodelle GPT von OpenAI und LLaMa von Meta den nach Alan Turing benannten »Turing-Test« erfolgreich bestanden hätten. Ein Unterschied zu einem menschlichen Gesprächspartner konnten die Forschenden in ihrer Studie nicht ausmachen.

»Die Grundsteine, die Alan Turing in den 1950er Jahren legte, haben sich in den vergangenen Dekaden kontinuierlich weiterentwickelt und sind längst Bestandteil unseres täglichen Lebens: Moderne Saugroboter beispielsweise helfen uns schon längst im Alltag und navigieren durch unser Wohnzimmer, erkennen mithilfe von KI Hindernisse oder lassen sich per Sprachbefehl starten. Auch das autonome Fahren setzt auf die Unterstützung von KI, mit deren Hilfe Fahrzeuge automatisiert durch den Straßenverkehr steuern, Verkehrsschilder identifizieren und bei Gefahren sicher abbremsen. Die sinnvolle Verknüpfung und Echtzeitverarbeitung der durch Sensoren generierten Daten zu einem interpretierbaren Ergebnis, führt zu einer KI-basierten Entscheidung – wie dem Einleiten eines Bremsmanövers. Roboter oder vielmehr KI-unterstützende Assistenten wie im Film ›I, Robot‹ sind bereits seit Jahren keine Fiktion mehr, sondern haben sich in unserer Realität etabliert«, so Sven Zimmermann.

Neuromorphes Rechnen: Memristoren als Rückgrat zukünftiger KI-Systeme

Damit KI-Systeme und -Rechnerarchitekturen in Zukunft noch leistungsfähiger werden und immer mehr Daten verarbeiten und interpretieren können, braucht es geeignete technologische Rahmenbedingungen. »Computer, wie wir sie heute kennen und die auf der ›Von-Neumann-Architektur‹ basieren, arbeiten sequenziell Befehle ab und liefern auf eine Nutzeranfrage ein entsprechendes vorab programmiertes Ausgabeergebnis. Sie sind jedoch wenig geeignet, um mit modernen und hochkomplexen KI-Modellen Schritt zu halten, die ein intuitives Verarbeiten und deutlich schnelleres Ausgeben von Informationen auf Basis gewaltiger Anzahlen erlernter Muster ermöglichen. Eine solche parallele Datenverarbeitung würde mit etablierten Computerarchitekturen enorme Energiemengen und riesige Serverfarmen erfordern und könnte die heute verfügbaren Energiereserven schon in wenigen Jahren vollständig erschöpfen«, erklärt der Wissenschaftler.

An der nächsten Evolutionsstufe der Computertechnologie, die in ihrem Funktionsprinzip an die Anforderungen effizienter und sparsamer KI angepasst ist, arbeiten Forschende am Fraunhofer ENAS. Inspiriert von der Natur rücken sie das neuromorphe Computing in den Mittelpunkt zukünftiger Entwicklungen.

Einer dieser vielversprechenden Ansätze ahmt den Aufbau und die Funktionsweise des menschlichen Gehirns als Baustein KI-basierter Rechner der neuesten Generation nach. Dieses Engineering-Modell basiert auf künstlichen neuronalen Netzwerken, die wie biologische Nervenzellen, den Neuronen als Bestandteile des menschlichen Gehirns, arbeiten und Informationen aufnehmen, verarbeiten und als Impulse weiterleiten.

»Die Nervenzellen unseres Gehirns sind durch biologische Synapsen miteinander verbunden. Diese Synapsen verstehen sich als eine Art biologische Speicher, deren Zustand sich mit der Zeit und der neurologischen Aktivität verändert. Auf diese Weise lernt der Mensch. Die Gesamtheit aller Nervenverbindungen und synaptischen Zustände des Gehirns werden als ›Konnektom‹ bezeichnet. Dieses ist für jeden Mensch verschieden und ist die Summe aus angeborenen und erlernten Verhaltensweisen, Erfahrungen und Wissen. Es bildet die Basis für die Einzigartigkeit und den Charakter eines Menschen. Durch die synaptische Kontaktstelle zwischen zwei Nervenzellen ist die Übertragung von Informationen und die Kommunikation zwischen Neuronen möglich. Diese Funktionsweise versuchen wir beim neuromorphen Computing technologisch zu imitieren«, so Sven Zimmermann.

Hierzu setzen die Forschenden am Fraunhofer ENAS auf nanoionische Bauelemente, die Memristoren, welche sich ähnlich verhalten wie biologische Synapsen. Der Name Memristor leitet sich dabei aus den englischen Begriffen »Memory« (Speicher) und »Resistor« (elektrischer Widerstand) ab. Durch die Fähigkeit des Memristors, seinen Widerstand in Abhängigkeit von der Intensität und der Dauer des durch ihn fließenden Stroms nichtflüchtig zu verändern, ist er zur Datenspeicherung und -verarbeitung in der Lage.

»Eine wesentliche Eigenschaft von Memristoren, die beim neuromorphen Computing für das Speichern und Verarbeiten von Informationen und das Lernen unverzichtbar ist, ist ihre synaptische Plastizität (spike-timing-dependent plasticity, STDP) – eine Eigenschaft, über die auch das menschliche Gehirn verfügt. Durch zeitabhängige synaptische Stimulationen, ausgelöst durch elektrische Impulse, den sogenannten Spikes, nimmt im menschlichen Gehirn die Aktivität und Kommunikation der Neuronen zu und es entstehen spezifische synaptische Verbindungen. Diese sind für die Gedächtnis- und Lernleistung unseres Gehirns verantwortlich, ermöglichen es uns, fehlende Informationen eines Sachverhalts intuitiv zu ergänzen oder uns in unbekannten Situationen durch erlernte Lösungsstrategien zurechtzufinden«, so der Wissenschaftler. In einem künstlichen neuronalen Netz auf der Basis von Memristoren werden große Trainingsdatensätze verwendet, um das Netz auf spezifische Problemstellungen anzulernen. In der darauf folgenden Anwendungsphase kann das Netz basierend auf erlernten Mustern extrem schnell und mit ausreichender Präzision auf Eingabemuster reagieren, dabei auch bei unsicheren Datenlagen sinnvolle Entscheidungen treffen und weit über den Trainingsdatensatz hinaus Berechnungen durchführen.   

Am Fraunhofer ENAS entwickeln die Forschenden memristive Synapsen, beispielsweise auf Basis der BiFeO₃-Technologie. Eine Besonderheit dieser auf Bismut-Eisenoxid bzw. Bismutferrit beruhenden Memristoren ist ihr ausgeprägter Biorealismus sowie ihre spektrale Lichtempfindlichkeit, was auch die Nachbildung der menschlichen Retina ermöglicht. Damit eignen sich neuromorphe Rechner, die auf memristiven Synapsen basieren, ideal für die Bild- und Mustererkennung. »Neuromorphe Computer, ausgestattet mit diesen auf Memristoren basierenden Synapsen, könnten beispielsweise die Polizeiarbeit unterstützen. Sogenannte ›Super Recognizer‹, die mit ihren besonderen Fähigkeiten in der Gesichtskerkennung bei Landeskriminalämtern tätig sind, sind in der Lage, auf hunderten von Überwachungskameras aufgezeichneten Bildern verdächtige Personen zu erkennen. Eine KI-gestützte Bilderkennung könnte die Fähigkeit der Gesichtserkennungsprofis sinnvoll ergänzen und die Identifizierung von Straftätern noch einmal deutlich beschleunigen und noch treffsicherer machen«, ist sich Sven Zimmermann sicher.

Komplexe Anordnung für komplexe Anfragen: Memristoren als Crossbar-Arrays

Ein einzelner Memristor, so der Wissenschaftler, sei jedoch nicht in der Lage, komplexe Aufgaben wie die Gesichtserkennung zu lösen. Für derartige Anwendungen ist eine Anordnung der Memristoren in einer sogenannten Crossbar-Array-Architektur vorteilhaft. Bei dieser speziellen Architektur werden memristive Schichten zwischen zwei Ebenen aus parallelen streifenförmige Elektrodenstrukturen, die im 90°-Winkel zueinander gedreht sind, angeordnet. Auf diese Weise entstehen Kreuzungspunkte, welche jeweils einer memristiven Zelle entsprechen. Das Crossbar-Array stellt die dichteste Form der Anordnung großer Zahlen von Memristoren auf einem Chip mit limitiertem Platz dar.

»Eingebettet in einen neuromorphen Rechner bräuchte es etwa 1.024 einzelne dieser memristiven Zellen, um eine einfache Spracherkennung zu realisieren. Je diffiziler die Anforderungen an den neuronalen Rechner werden, desto aufwändiger müssen die Elektroden-Ebenen samt memristiven Material aufgebaut werden. Für das Lösen hochkomplexer Aufgaben müssten zig Tausend solcher Zellen in einer komplexen Architektur zusammengeführt werden.«

Um solche Aufgaben, die aufwendige mathematische Operationen erfordern, zu bewältigen, setzen die Forschenden auf eine Kombination aus Crossbar-Array-Strukturen und programmierbaren integrierten Schaltkreisen, sogenannten Field-Programmable Gate Arrays (FPGAs). Diese Verknüpfung ermöglicht eine deutliche Beschleunigung der Rechengeschwindigkeit speziell für schwierige und langwierige Rechenoperationen, für die bisherige digitale Rechentechnik Unmengen an Zeit und Energie benötigen würde. Mithilfe dieser auch als »memristive Hardwarebeschleuniger« bezeichneten Architekturen wird nicht nur eine hochparallele Verarbeitung einer Vielzahl von Informationen, wie sie beim neuromorphen Rechnen typisch ist, mit enormem Tempo erreicht. Die einzigartige Kopplung von Crossbar-Arrays mit FPGAs trägt auch dazu bei, den Energieverbrauch im Vergleich zu bisherigen Rechnergenerationen deutlich zu senken.

Nanotechnologie im Einsatz: Gehirnstruktur nachbilden durch künstliche Neuronen

Ein alternativer Ansatz für künstliche neuronale Netze auf Basis von Memristoren bildet der Einsatz von sogenannten Leaky-Integrate-and-Fire-Neuronen (LIF-Neuron). Mit diesen künstlichen nanotechnologischen Nervenzellen lässt sich das gesamte menschliche Gehirn noch exakter nachbilden als es mit heutigen Modellen möglich ist. Das Besondere: Es werden nicht nur Synapsen, sondern auch Neuronen durch nanotechnologische Bauelemente modelliert.

Einzigartig macht diesen Ansatz, dass nicht alle in die Nervenzellen eingehenden Impulse direkt an die nächste Nervenzelle weitergeleitet werden. Werden die LIF-Neuronen durch eingehende Spikes stimuliert, erfolgt eine Weiterleitung des elektrischen Signals erst dann, wenn innerhalb der Nervenzelle ein bestimmter Schwellenwert überschritten wurde. Künstliche neuronale Netze (KNN), die auf dieser Weiterleitung von Impulsen basieren, werden auch gepulste neuronale Netzwerke (Spiking Neural Networks, SNN) genannt. Da in diesem Netzwerk nicht alle Neuronen aktiv sind, sondern nur diejenigen, deren Reizschwelle überschritten wurde, kann mithilfe dieses Ansatzes bei komplexen Rechenaufgaben sehr viel Energie im Vergleich zu bisherigen künstlichen neuronalen Netzen eingespart werden. Das macht den Einsatz von SNNs besonders interessant für mobile Anwendungen, wie beispielsweise Drohnen. Diese Systeme sind zudem in der Lage, sich selbst zu organisieren und sich Inputstimuli durch entsprechende Rückkopplungen selbst zu erzeugen. Die Fähigkeit zum »Unsupervised Learning« der SNN-Technologie, also dem Suchen nach Mustern in Daten ohne größere Interventionen durch den Menschen, ist essentiell für die Ausbildung eines Bewusstseins mit den zugehörigen Fähigkeiten des Wirklichkeitserkennens auf einem technischen System. 

Vision oder Realität? Blick in die KI-Zukunft

»Bis es eine starke KI geben wird, die wie der Mensch selbständig denkt, analysiert, interpretiert, entscheidet, kreativ ist, lernt und Problemlösungen entwickelt, ist es noch ein langer Weg. Immerhin verfügt der Mensch über 86 Milliarden Nervenzellen, jede dieser Nervenzellen wiederum über zehntausende Synapsen. Das sind hunderte Billionen von Synapsen insgesamt. Dieses komplexe menschliche System technologisch nachzubilden und zu modellieren wird eine Herausforderung der Zukunft für Forschung und Wissenschaft bleiben. In greifbare Nähe rücken wird diese Vision vielleicht erst am Ende dieses Jahrhunderts«, so Sven Zimmermann.

Unser Angebot: Ihr Partner für KI-Forschung und -Entwicklung

Mit seiner langjährigen und umfassenden Expertise unterstützt das Fraunhofer ENAS die Technologieentwicklung im Bereich KI-basierter Systeme und Dienstleistungen. Als Innovationspartner forscht das Institut an bahnbrechenden Technologielösungen, die es neuromorphen Computern ermöglichen, mit höchster Intelligenz, Effizienz und Geschwindigkeit zu arbeiten.

Das Fraunhofer ENAS entwickelt dabei innovative Architekturtechnologien auf Dünnschichtbasis, die das menschliche Gehirn mit nanotechnologischen Funktionalitäten nachbilden. Die Kompetenzen des Instituts erstrecken sich dabei von der Fertigung memristiver Komponenten und Crossbar-Arrays über deren Integration in bestehende Technologien bis hin zur Charakterisierung und Simulation neuartiger Materialkonzepte für neuromorphe Anwendungen.

Unser Angebot im Detail:

• Fertigung von memristiven Bauteilen auf der Basis von BiFeO₃ und TiO₂ als Einzelbauelement und Crossbar-Array
• Integration memristiver Bauteile in bestehende Technologiekonzepte, Anpassung der Materialcharakteristik, des Layouts und der Herstellungstechnologie
• Teststrategien für memristive Bauelemente zur Charakterisierung von Memristoren auf Waferlevel sowie in Crossbar-Strukturen
• Entwicklung von Zero-Energie-Sensorik mit memristiven Speichern
• Entwicklung von Komponenten für neuromorphe Schaltungen inklusive Schaltungsdesign
• Untersuchung neuer Materialsysteme mit memristivem Verhalten

Wenn auch Sie gemeinsam mit uns mit neuartigen Bauelementen, Architekturtechnologien oder  Materialkonzepten in eine neue technologische Ära aufbrechen wollen, dann kontaktieren Sie uns noch heute.