In-Memory Computing: Warum Rechner schneller werden, wenn Speicher rechnet

In-Memory Computing verlagert Berechnungen direkt in oder nahe an Speicherzellen. Der Deep Dive erklärt PIM, CIM, RRAM, PCM und die realen Grenzen.
Speichermodule auf einer Computerplatine als Symbol für In-Memory Computing

Moderne Prozessoren können in jeder Sekunde Billionen Rechenoperationen ausführen. Trotzdem verbringen viele Systeme einen erstaunlich großen Teil ihrer Zeit damit, auf Daten zu warten. Gewichte eines KI-Modells, Bildpunkte, Sensormessungen oder Datenbankeinträge liegen im Speicher, werden über Leitungen zum Rechenwerk transportiert, dort verarbeitet und anschließend wieder zurückgeschrieben. Bei datenintensiven Aufgaben kostet dieser Verkehr oft mehr Zeit und Energie als die eigentliche Multiplikation.

In-Memory Computing will diese Rollenverteilung aufbrechen. Statt Speicher nur als passives Lager zu behandeln, werden bestimmte Berechnungen direkt in oder sehr nahe an den Speicherzellen ausgeführt. Das Ziel ist nicht, CPU und GPU vollständig zu ersetzen. Es geht darum, jene Operationen dorthin zu verlagern, wo die Daten bereits liegen. Besonders interessant ist das für künstliche Intelligenz, weil neuronale Netze immer wieder dieselben großen Matrizen mit neuen Eingaben verrechnen.

Das Prinzip klingt einfach, führt aber zu sehr unterschiedlichen Architekturen: Manche integrieren kleine digitale Recheneinheiten in DRAM-Bänke, andere nutzen SRAM-Zellen als parallele Addierer. Noch radikalere Entwürfe speichern Modellgewichte als elektrische Leitwerte in RRAM- oder Phasenwechselspeichern und lassen ein Netzwerk aus Strömen eine Matrixmultiplikation physikalisch ausführen. Zwischen einem marktreifen Speicherbeschleuniger und einem analogen Laborchip liegen deshalb große Unterschiede.

Das Grundproblem: Rechnen ist schnell, Datenbewegung ist teuer

Die klassische Rechnerarchitektur trennt Speicher und Rechenwerk. Das ist ein äußerst erfolgreiches Konzept: Programme und Daten lassen sich flexibel ablegen, während universelle Prozessoren nacheinander verschiedenste Befehle ausführen. Doch die Geschwindigkeit von Recheneinheiten und die Fähigkeit des Speichers, sie mit Daten zu versorgen, haben sich nicht im gleichen Tempo entwickelt. Diese wachsende Lücke wird als Memory Wall bezeichnet.

Caches, breitere Speicherbusse, Prefetching und High Bandwidth Memory mildern das Problem. Sie bringen häufig benötigte Daten näher an den Prozessor oder erhöhen die gleichzeitig übertragbare Datenmenge. Die Richtung bleibt jedoch dieselbe: Der Speicher liefert Daten, das Rechenwerk verarbeitet sie. Sobald ein Datensatz größer als die schnellen lokalen Speicher wird oder eine Operation nur wenige Rechenschritte pro geladenem Byte ausführt, wird der Transport zum Engpass.

Das trifft KI besonders stark. Eine Matrixmultiplikation besteht zwar aus sehr vielen Multiplikationen und Additionen, doch die Milliarden Modellparameter müssen für jede Anfrage verfügbar sein. Bei großen Sprachmodellen kann die Rechenhardware deshalb auf Gewichte warten, obwohl ihre arithmetischen Einheiten theoretisch noch Kapazität hätten. Ähnliche Muster entstehen bei Empfehlungssystemen, Graphanalysen, Bildfiltern und wissenschaftlichen Simulationen.

Die Branche reagiert bereits mit neuen Packaging- und Speichertechniken. Chiplets, 3D-Integration und gestapelte Speicher verkürzen Wege und verbreitern Datenpfade. In-Memory Computing geht einen Schritt weiter: Es versucht, einen Teil des Weges ganz zu vermeiden.

Was In-Memory Computing genau bedeutet

Der Begriff wird nicht überall identisch verwendet. Für eine sinnvolle Einordnung helfen drei Ebenen:

AnsatzOrt der BerechnungTypische StärkeTypischer Kompromiss
Near-Memory ComputingLogik direkt neben oder unter dem SpeicherHohe Bandbreite bei vertrauter DigitaltechnikDaten verlassen weiterhin das eigentliche Speicherfeld
Processing-in-Memory (PIM)Digitale Recheneinheiten in Speicherbänken oder SpeicherstacksProgrammierbarer und präziser als Analog-CIMBegrenzte Fläche, Leistung und Kühlung im Speicher
Compute-in-Memory (CIM)Operationen innerhalb des SpeicherarraysSehr hohe Parallelität und wenig DatenbewegungPräzision, Bauteilstreuung und Wandlerelektronik

Near-Memory-Architekturen platzieren Rechenlogik räumlich sehr dicht am Speicher. Ein Beispiel ist ein Logikchip unter einem gestapelten HBM-Paket. Streng genommen rechnet hier nicht die Speicherzelle selbst, doch der Weg ist kurz und der Datenkanal breit. PIM integriert Recheneinheiten noch enger in Speicherbänke. Sie können etwa Vektoroperationen oder einfache Filter ausführen, ohne große Datenmengen über den externen Bus zu schicken.

Compute-in-Memory im engeren Sinn nutzt die Struktur des Speicherarrays als Rechenwerk. Das kann digital geschehen, etwa durch veränderte SRAM-Zellen und zusätzliche Bitleitungen. Bei analogem CIM repräsentieren elektrische Größen Zahlen: Ein Leitwert steht für ein Gewicht, eine Spannung für einen Eingang und der resultierende Strom für ein Teilprodukt. Damit wird aus dem Speicherfeld eine spezialisierte Rechenmatrix.

Wichtig ist die Abgrenzung zu normalem Arbeitsspeicher. „In Memory“ kann in der Softwarewelt auch bedeuten, dass eine Datenbank ihre Daten im RAM statt auf einer SSD hält. Das beschleunigt Zugriffe, verlagert aber keine Berechnung in die Speicherzellen. In-Memory Computing bezeichnet eine Hardwarearchitektur, in der Speicher und Rechnen funktional zusammenrücken.

Wie ein Speicherfeld eine Matrix multipliziert

Der spektakulärste Zweig ist analoges In-Memory Computing. Sein Grundprinzip lässt sich mit zwei Gesetzen der Elektrotechnik erklären. Nach dem Ohmschen Gesetz ist der Strom durch ein Bauteil das Produkt aus angelegter Spannung und Leitwert. In einer Kreuzschienenmatrix liegt an jeder Kreuzung ein Speicherbauteil mit einem programmierbaren Leitwert. Werden an die Zeilen Spannungen angelegt, erzeugt jede Zelle einen Strom, der dem Produkt aus Eingang und gespeichertem Gewicht entspricht.

Nach dem Kirchhoffschen Knotenpunktgesetz addieren sich die Ströme einer Spalte. Am Spaltenende entsteht damit die Summe vieler Produkte – genau die Multiply-Accumulate-Operation, die neuronale Netze in großer Zahl benötigen. Eine ganze Vektor-Matrix-Multiplikation kann parallel stattfinden, statt jedes Zahlenpaar nacheinander durch ein digitales Rechenwerk zu schicken.

Die Eleganz liegt darin, dass Speicherung, Multiplikation und Addition räumlich zusammenfallen. Die Modellgewichte bleiben als Leitwerte im Array. Nur Eingaben müssen angelegt und Ergebnisse ausgelesen werden. Für Schichten eines neuronalen Netzes, deren Gewichte sich während der Inferenz nicht verändern, ist das ein passendes Nutzungsmuster.

Warum das Ergebnis nicht automatisch digital ist

Ein Computerprogramm liefert digitale Werte, eine analoge Kreuzschiene dagegen Spannungen und Ströme. Deshalb benötigt der Chip Digital-Analog-Wandler an den Eingängen und Analog-Digital-Wandler an den Ausgängen. Hinzu kommen Treiber, Referenzschaltungen, Kalibrierung, lokale digitale Logik und Kommunikationsnetze. Diese Peripherie kann einen erheblichen Teil von Fläche und Energie beanspruchen.

Ein einzelner hoher TOPS/W-Wert des Speicherarrays sagt daher wenig über ein vollständiges System. Entscheidend ist die Effizienz einer realen Anwendung inklusive Datenaufbereitung, Aktivierungsfunktionen, Wandlung, Zwischenspeicherung und Übertragung zum nächsten Array. Seriöse Forschung misst deshalb zunehmend ganze Modelle auf integrierten Chips statt nur ideale Zelloperationen.

Ein wichtiges Beispiel ist ein von IBM Research vorgestellter Mixed-Signal-Chip mit 64 Rechenkernen und integrierten Phasenwechselspeichern. Er verband die analogen Matrixoperationen mit digitalen Aktivierungsfunktionen und einem Kommunikationsnetz auf dem Chip. Bei ResNet- und LSTM-Aufgaben erreichte er eine annähernd softwareäquivalente Genauigkeit. Das demonstriert Machbarkeit, ist aber noch kein universeller Ersatz für GPUs: Der Chip war auf bestimmte neuronale Operationen und Zahlenformate zugeschnitten.

Welche Speichertechnologien rechnen können

Die Eigenschaften eines In-Memory-Chips hängen stark vom verwendeten Speichertyp ab. Etablierte CMOS-Speicher sind leicht in heutige Prozesse zu integrieren. Neuartige nichtflüchtige Zellen versprechen höhere Dichte und behalten Gewichte ohne Strom, bringen aber eigene Material- und Fertigungsfragen mit.

SRAM: schnell und produktionsnah

SRAM befindet sich bereits als Cache und lokaler Arbeitsspeicher auf Prozessoren. Die Zellen sind schnell, benötigen keine Auffrischung und lassen sich mit zusätzlichen Leitungen oder Transistoren für bitweise Operationen und Multiply-Accumulate-Funktionen erweitern. Digitales SRAM-CIM kann exakt und robust arbeiten; analoge oder Mixed-Signal-Varianten erhöhen die Parallelität.

Der Nachteil ist die Größe. Eine klassische SRAM-Zelle besteht aus mehreren Transistoren. Große Modellgewichte vollständig in SRAM abzulegen, kostet viel Chipfläche und damit Geld. SRAM-CIM eignet sich daher besonders für lokale Puffer, kleine bis mittlere KI-Modelle und Beschleuniger, bei denen Geschwindigkeit wichtiger als maximale Speicherdichte ist.

DRAM und HBM: große Datenmengen mit Logik in der Nähe

DRAM speichert ein Bit als Ladung in einem Kondensator und ist deutlich dichter als SRAM. Bei PIM-Entwürfen sitzen meist digitale Recheneinheiten in oder nahe den Speicherbänken. Samsung zeigte mit HBM-PIM beziehungsweise FIMDRAM, wie SIMD-Einheiten in einen Hochbandbreitenspeicher integriert werden können. Die Rechenwerke bearbeiten Daten bankweise, ohne sie zunächst zu einem externen Beschleuniger zu transportieren.

Solche Architekturen sind näher an heutiger Systemtechnik als exotische Analogzellen. Sie bleiben digital, unterstützen vertraute Zahlenformate und können Aufgaben wie Vektoroperationen, Bandbreitenreduktion oder Vorverarbeitung übernehmen. Allerdings teilen sich Rechenlogik und Speicher ein enges Energie- und Temperaturbudget. Ein Speicherstack lässt sich schwieriger kühlen als ein frei zugänglicher Prozessor.

RRAM und Memristoren: Leitwert als Gewicht

Resistive RAM verändert den elektrischen Widerstand einer Zelle durch physikalische Prozesse in einer dünnen Materialschicht. Der eingestellte Zustand bleibt ohne Strom erhalten. Mehrere Widerstandsniveaus können verschiedene Zahlenwerte darstellen. Damit passt RRAM gut zu analogen Kreuzschienen: Ein Gewicht ist direkt als Leitwert in der Zelle gespeichert.

Der NeuRRAM-Forschungsprototyp demonstrierte beispielsweise 48 RRAM-basierte Compute-in-Memory-Kerne, die unterschiedliche neuronale Aufgaben bearbeiten konnten. Solche Ergebnisse zeigen, dass die Technik nicht auf Simulationen beschränkt ist. Gleichzeitig variieren reale Zellen, Schreibimpulse verändern sie nicht vollkommen gleichmäßig und kleine Ströme können sich gegenseitig beeinflussen. Algorithmen, Schaltung und Material müssen deshalb gemeinsam entworfen werden.

PCM: Rechnen mit Phasenwechsel

Phase-Change Memory nutzt Materialien, die zwischen amorphen und kristallinen Zuständen wechseln. Diese Zustände besitzen unterschiedliche elektrische Leitfähigkeiten. Durch abgestufte Programmierimpulse lassen sich mehrere Zwischenwerte erzeugen. PCM ist nichtflüchtig und kann dicht über CMOS-Schaltungen integriert werden.

Für analoges Rechnen ist PCM attraktiv, weil Gewichte direkt als Leitwerte vorliegen. Die Zellen zeigen jedoch Drift: Ihr Widerstand verändert sich mit der Zeit. Außerdem ist das präzise Schreiben eines Zielwertes aufwendiger als ein normaler digitaler Speicherzugriff. Kalibrierung, wiederholtes Programmieren und fehlertolerantes Training helfen, erhöhen aber die Systemkomplexität.

MRAM und ferroelektrische Speicher

MRAM speichert Informationen magnetisch und verbindet Nichtflüchtigkeit mit hoher Haltbarkeit. Compute-in-Memory-Entwürfe nutzen magnetische Zellen vor allem für bitweise oder niedrigpräzise Operationen. Ferroelektrische Bauelemente speichern Zustände über eine elektrische Polarisation. Forschungsinstitute untersuchen sie als energiesparende Alternative, müssen aber unter anderem zerstörungsfreies Auslesen, Gleichmäßigkeit und Fertigungsintegration beherrschen.

TechnologieStärkeGrenzeNaheliegender Einsatz
SRAMSchnell, CMOS-kompatibel, robustGroße Zellfläche, flüchtigLokale KI-Beschleuniger und Edge-Chips
DRAM/HBM-PIMHohe Kapazität und BandbreiteRefresh, Wärme, begrenzte LogikflächeRechenzentren und speichergebundene Workloads
RRAMDicht, nichtflüchtig, analog programmierbarVariabilität und begrenzte PräzisionMatrixoperationen und Edge-Inferenz
PCMMehrstufig, nichtflüchtig, integrierbarDrift und aufwendiges SchreibenGewichtsspeicher für neuronale Netze
MRAM/FeRAMNichtflüchtig, potenziell langlebigMaterial- und Prozessreife je nach VarianteDigitale CIM- und Spezialbeschleuniger

Digital oder analog: zwei unterschiedliche Versprechen

Digitales In-Memory Computing verschiebt bekannte Logik in den Speicher. Seine Ergebnisse sind reproduzierbar, Zahlenformate klar definiert und Fehler leichter zu testen. Es eignet sich nicht nur für neuronale Netze, sondern auch für Datenbankfilter, Bitmaps, Suchoperationen und Vektorverarbeitung. Der Effizienzgewinn entsteht überwiegend durch vermiedene Transfers und parallele Bankzugriffe.

Analoges CIM nutzt zusätzlich die Physik für die Arithmetik. Dadurch kann ein Array sehr viele Multiplikationen gleichzeitig ausführen. Der Preis ist eine andere Art des Rechnens: Ergebnisse enthalten Rauschen, Bauteile unterscheiden sich, Leitwerte altern und die Genauigkeit ist begrenzt. Statt absolute mathematische Exaktheit zu verlangen, muss die Anwendung mit einem Fehlerbudget umgehen können.

Neuronale Netze sind dafür relativ geeignet. Viele Modelle funktionieren auch mit acht, vier oder noch weniger Bits, wenn Quantisierung und Training darauf abgestimmt sind. Kleine Abweichungen einzelner Operationen verändern nicht zwangsläufig die richtige Klassifikation. Finanzberechnungen, kryptografische Verfahren oder allgemeine Systemsoftware stellen dagegen andere Anforderungen. Dort ist ein winziger analoger Fehler nicht automatisch akzeptabel.

Warum KI der wichtigste Treiber ist

KI-Modelle bestehen zu einem großen Teil aus linearen Algebraoperationen. Convolutional Networks falten Bilddaten mit vielen Filtern, Transformer multiplizieren Aktivierungen mit Gewichtsmatrizen, und Empfehlungssysteme durchsuchen große Einbettungstabellen. All diese Aufgaben bewegen große Datenmengen und wiederholen ähnliche Rechenmuster.

Bei der Inferenz bleiben die Modellgewichte meist konstant. Das ist ideal für nichtflüchtige Analogarrays: Die Gewichte werden einmal programmiert und anschließend für viele Anfragen genutzt. Der Chip muss dann vor allem neue Eingaben anlegen und Ergebnisse digital weiterverarbeiten. In einem Kamerasensor, Hörgerät oder Industriecontroller könnte dies lokale Erkennung mit niedriger Latenz und ohne dauernde Cloud-Verbindung ermöglichen.

Das passt zum Trend, mehr Modelle direkt auf Endgeräten auszuführen. On-Device AI profitiert von jedem gesparten Speichertransfer, weil Mobilgeräte ein viel engeres Energie- und Wärmebudget als Server besitzen. In-Memory-Blöcke könnten künftig neben CPU, GPU und NPU einzelne besonders datenintensive Operationen übernehmen.

Training ist schwieriger als Inferenz

Beim Training verändern sich die Gewichte ständig. Jede Aktualisierung müsste auch im Speicherarray zuverlässig und präzise nachvollzogen werden. Nichtflüchtige Analogzellen lassen sich oft asymmetrisch programmieren: Ein positiver Impuls verändert den Leitwert anders als ein negativer, und die Wirkung hängt vom aktuellen Zustand ab. Häufiges Schreiben belastet zudem die Zellen.

Forschungsansätze verteilen die Arbeit deshalb auf analoge und digitale Komponenten. Das Array berechnet beispielsweise Vorwärts- und Rückwärtsoperationen, während hochpräzise Gewichtsaktualisierungen digital gesammelt und periodisch übertragen werden. Andere Verfahren trainieren ein Modell in Software so, dass es die gemessenen Hardwarefehler kennt. Vollständig analoges, großmaßstäbliches Training bleibt deutlich anspruchsvoller als Inferenz.

Die fünf großen Hürden auf dem Weg in den Alltag

1. Präzision und Streuung

Digitale Transistoren abstrahieren viele physikalische Schwankungen in klaren Nullen und Einsen. Analoge CIM-Schaltungen arbeiten gerade mit den Zwischenwerten, die stärker auf Temperatur, Fertigungstoleranzen und Alterung reagieren. Eine Zelle erreicht nicht immer exakt denselben Leitwert. Große Arrays leiden zusätzlich unter Spannungsabfällen entlang der Leitungen. Kalibrierung und Fehlerkorrektur sind deshalb Teil der Architektur, nicht bloß nachträgliche Softwareoptionen.

2. Die Wandler können den Vorteil auffressen

Je höher die gewünschte Auflösung, desto aufwendiger sind Analog-Digital-Wandler. Viele Designs zerlegen deshalb größere Zahlen in mehrere niedrigpräzise Teiloperationen. Das verbessert die Genauigkeit, braucht aber zusätzliche Zyklen. Der optimale Punkt liegt nicht bei maximaler Präzision, sondern bei der geringsten Gesamtkosten für eine geforderte Anwendungsqualität.

3. Modelle passen nicht automatisch auf das Array

Reale neuronale Netze enthalten mehr als Matrixmultiplikationen. Normalisierung, Softmax, nichtlineare Aktivierungen, Datenumformungen und Kontrollfluss benötigen weiterhin digitale Einheiten. Große Matrizen müssen auf viele kleinere Arrays verteilt werden. Dabei entstehen Zwischenresultate und Kommunikationsaufwand. Ein guter Chip braucht daher ein ausgewogenes Verhältnis aus Analogarrays, digitaler Logik, lokalem Speicher und Netzwerk.

4. Software entscheidet über Nutzbarkeit

Eine GPU ist erfolgreich, weil Entwickler nicht jede Recheneinheit von Hand ansteuern müssen. Compiler, Bibliotheken, Profiler und Frameworks bilden Modelle auf die Hardware ab. In-Memory Computing benötigt einen vergleichbaren Software-Stack. Er muss entscheiden, welche Schichten auf das Array gehören, welche Präzision genügt und wie Daten zwischen spezialisierten Blöcken fließen.

Die Herausforderung ist größer als bei einem normalen Beschleuniger, weil Hardwarefehler und Zahlenformate enger mit dem Modell verknüpft sind. Idealerweise kann ein Entwickler ein trainiertes Netz quantisieren und kompilieren, ohne Widerstandskurven einzelner Zellen verstehen zu müssen. Bis diese Abstraktion stabil ist, bleiben viele Prototypen Forschungsplattformen.

5. Fertigung, Test und Wirtschaftlichkeit

Eine neue Speichertechnologie muss in bestehende Halbleiterprozesse passen, gute Ausbeute erreichen und über Jahre zuverlässig funktionieren. Mehrstufige Analogzellen sind aufwendiger zu testen als digitale Bits. Auch die Reparatur defekter Zeilen, Redundanz und Qualitätskontrolle müssen berücksichtigt werden. Ein Laborchip kann physikalisch beeindruckend sein und trotzdem gegenüber einer ausgereiften GPU wirtschaftlich verlieren.

Wo In-Memory Computing zuerst sinnvoll wird

Die ersten erfolgreichen Anwendungen werden wahrscheinlich klar begrenzte, häufig wiederholte Aufgaben sein. Dort lassen sich Gewichte und Datenflüsse gut planen, die notwendige Genauigkeit ist bekannt und ein Energiegewinn hat hohen Wert.

  • Edge-KI: Kameras, Mikrofone, Wearables und Industriesensoren können Klassifikation oder Anomalieerkennung lokal ausführen.
  • Automobile und Robotik: Sensorverarbeitung profitiert von niedriger Latenz, sofern Sicherheitsfunktionen durch digitale Kontrolle abgesichert werden.
  • Rechenzentren: PIM in HBM oder speichernahe Logik kann bandbreitengebundene KI-, Datenbank- und Analyseoperationen entlasten.
  • Wissenschaftliche Instrumente: Große Sensordatenströme lassen sich bereits beim Entstehen filtern oder verdichten.
  • Personalisierte lokale Modelle: Kleine Sprach-, Bild- oder Audionetze könnten energieeffizient auf Geräten laufen, ohne Rohdaten ständig zu übertragen.

Im Rechenzentrum wird In-Memory Computing nicht isoliert auftreten. Es ergänzt vielmehr spezialisierte GPUs, NPUs, CPUs und schnelle Netzwerke. KI-Rechenzentren sind heterogene Systeme; der entscheidende Gewinn entsteht, wenn jede Operation auf dem passenden Baustein läuft und Daten nicht unnötig zwischen ihnen wandern.

Ist das schon neuromorphes Computing?

Beide Gebiete überschneiden sich, sind aber nicht identisch. Neuromorphe Systeme orientieren sich an Nervenzellen, Synapsen und ereignisgesteuerter Kommunikation. In-Memory Computing beschreibt zunächst nur die räumliche Verbindung von Speicherung und Berechnung. Ein analoges RRAM-Array kann eine normale Matrixmultiplikation ausführen, ohne Spikes oder künstliche Neuronen zu verwenden.

Umgekehrt benötigen neuromorphe Chips lokale Speicher nahe ihren Rechenelementen, weil biologische Effizienz gerade aus dieser Nähe entsteht. Nichtflüchtige Speicher können dabei synaptische Gewichte repräsentieren. Wer die Unterschiede zwischen beiden Konzepten verstehen möchte, findet sie im Deep Dive zu Neuromorphic Computing und Spiking Neural Networks.

Was Europa und Deutschland davon haben

Europa besitzt starke Forschung in Halbleitermaterialien, Fertigungsprozessen, eingebetteten Systemen und energieeffizienter KI. Institute wie imec untersuchen unterschiedliche Speicherzellen, Schaltungen und Systemarchitekturen gemeinsam. Deutsche Universitäten und Forschungsverbünde arbeiten an neuartigen Speichern, Compilerverfahren, Edge-AI und 3D-Integration. Diese Kombination ist wichtig, weil In-Memory Computing kein reines Materialproblem und kein reines Softwareproblem ist.

Für die deutsche Industrie sind Anwendungen in Produktion, Automatisierung, Sensorik, Medizintechnik und Fahrzeugtechnik besonders naheliegend. Ein lokaler Beschleuniger kann Sensordaten direkt am Entstehungsort auswerten, Latenz reduzieren und die übertragene Datenmenge begrenzen. Das ersetzt keine Datenschutz- oder Sicherheitsarchitektur, kann aber technisch unterstützen, dass weniger Rohdaten eine Anlage verlassen.

Strategisch interessant ist außerdem, dass die nächste Effizienzwelle nicht allein von der kleinsten Transistorstruktur abhängt. Materialien, Speicherzellen, Packaging, Schaltungsdesign und Software-Co-Design werden wichtiger. Europa kann dort ansetzen, wo es bereits Kompetenzen in Spezialprozessen, Forschungseinrichtungen und industriellen Anwendungssystemen besitzt.

Wie man Leistungsversprechen richtig liest

Bei In-Memory-Chips sind beeindruckende Vergleichszahlen üblich. Sie sind nicht zwangsläufig falsch, aber oft nur unter engen Bedingungen gültig. Fünf Fragen helfen bei der Einordnung:

  1. Was wird gemessen? Nur das Speicherarray oder der vollständige Chip einschließlich Wandlern und Kommunikation?
  2. Welche Präzision gilt? Eine 1-Bit-Operation ist nicht direkt mit FP16- oder FP32-Rechnen vergleichbar.
  3. Welche Aufgabe läuft? Ein einzelner Matrixkern ist leichter zu beschleunigen als ein komplettes Modell.
  4. Ist das Ergebnis gemessen oder simuliert? Schaltungsmodelle sind wertvoll, ersetzen aber keinen gefertigten Chip.
  5. Wie sieht die Referenz aus? Prozessknoten, Auslastung, Software und Batchgröße müssen vergleichbar sein.

Auch TOPS/W allein genügt nicht. Eine Anwendung benötigt vielleicht hohe Genauigkeit, große Kapazität oder kurze Reaktionszeiten bei Einzelanfragen. Ein sehr effizienter Beschleuniger kann unpraktisch sein, wenn das Modell nicht in seinen Speicher passt oder häufig neu programmiert werden muss. Aussagekräftig sind Ende-zu-Ende-Messungen mit realen Modellen und transparenten Randbedingungen.

Die wahrscheinlichste Zukunft: heterogene Chips statt Speicher-CPU

In-Memory Computing wird den klassischen Computer voraussichtlich nicht durch einen einzigen neuen Speichertyp ablösen. Wahrscheinlicher ist eine schrittweise Integration. Prozessoren behalten universelle Aufgaben und Kontrolle, GPUs und NPUs übernehmen flexible Parallelrechnung, digitale PIM-Blöcke bearbeiten bandbreitengebundene Operationen und analoge CIM-Arrays beschleunigen ausgewählte Matrixkerne.

Chiplets und 3D-Integration erleichtern diese Mischung. Hersteller können Logik, SRAM, HBM und neuartige Speicher in unterschiedlichen Prozessen fertigen und anschließend dicht verbinden. Damit muss nicht jede Komponente im modernsten und teuersten Fertigungsknoten entstehen. Ein nichtflüchtiges Analogarray könnte beispielsweise über einem digitalen Steuerchip sitzen, während ein schneller lokaler SRAM Zwischenergebnisse puffert.

Der Übergang wird für Nutzer weitgehend unsichtbar sein. Betriebssystem, Compiler und KI-Framework entscheiden, welche Teile einer Aufgabe auf welchem Beschleuniger laufen. So wie ein Smartphone heute CPU, GPU, Bildsignalprozessor und NPU kombiniert, könnten künftige Geräte zusätzliche Rechenspeicher enthalten, ohne dass Anwendungen sie direkt programmieren müssen.

Von der historischen Ausnahme zur logischen Konsequenz

Die Trennung von Speicher und Rechenwerk war nie ein Naturgesetz. Sie war eine äußerst praktische technische Entscheidung. Unterschiedliche Aufgaben ließen sich mit derselben Hardware ausführen, weil Programme und Daten gemeinsam im Speicher lagen. Spezialisierte Rechenwerke existierten zwar schon früh, doch die universelle Architektur gewann durch ihre Flexibilität, standardisierte Software und immer leistungsfähigere Prozessoren.

Lange Zeit konnte die Halbleiterindustrie Engpässe durch kleinere Transistoren, höhere Taktraten und größere Caches kompensieren. Später übernahmen Mehrkernprozessoren und GPUs stärker parallele Aufgaben. Heute verschiebt sich der Schwerpunkt erneut. Die Zahl der Recheneinheiten steigt, während Energieversorgung, Wärmeabfuhr und Speicherbandbreite härtere Grenzen setzen. Gleichzeitig wachsen Datensätze und Modelle schneller als viele lokale Speicher.

In-Memory Computing ist deshalb weniger eine Rückkehr zu alten Analogrechnern als eine Antwort auf die Kosten moderner Datenbewegung. Der Fortschritt entsteht nicht allein durch einen schnelleren Schalter. Er entsteht aus der Frage, ob eine Aufgabe überhaupt noch durch das Nadelöhr zwischen Speicher und Rechenwerk laufen muss. Das ist derselbe Architekturgedanke, der auch spezialisierte NPUs, Bildprozessoren und Netzwerkbeschleuniger hervorgebracht hat: Allgemeinheit wird dort aufgegeben, wo eine häufige Operation dadurch wesentlich effizienter wird.

Ein konkretes Beispiel: Bildanalyse am Rand des Netzes

Eine Industriekamera soll fehlerhafte Bauteile auf einem Förderband erkennen. In einer klassischen Lösung liest der Bildsensor ein Bild aus, ein Prozessor lädt Modellgewichte aus dem Speicher und eine NPU berechnet mehrere neuronale Schichten. Das Ergebnis ist nur eine kleine Information – etwa „in Ordnung“ oder „prüfen“ –, doch auf dem Weg dorthin wurden Millionen Pixel und Gewichte bewegt.

Ein In-Memory-Beschleuniger könnte die konstanten Filtergewichte lokal halten und die dominierenden Faltungen im Speicherarray ausführen. Die digitale Steuerlogik übernimmt Bildvorbereitung, Aktivierungsfunktionen, Plausibilitätsprüfung und die endgültige Entscheidung. Das System spart nicht jede Datenbewegung: Pixel müssen weiterhin eintreffen und Zwischenwerte zwischen Schichten wechseln. Aber der wiederholte Transport der Modellgewichte kann deutlich schrumpfen.

Die Architektur ist nur dann besser, wenn das Gesamtprodukt überzeugt. Muss das Modell täglich vollständig neu programmiert werden, kann ein schreibempfindlicher Analogchip unpassend sein. Erfordert die Qualitätskontrolle sehr hohe numerische Genauigkeit, steigt der Aufwand für Wandlung und Kalibrierung. Ist das Modell klein genug für eine normale NPU, könnte deren ausgereifter Software-Stack wichtiger sein als der theoretische Effizienzvorsprung. Das Beispiel zeigt, warum der Einsatzfall vor dem Bauteil gewählt werden muss.

Zuverlässigkeit und Sicherheit gehören zur Architektur

Wenn Speicher rechnet, verschwimmt auch die klassische Grenze zwischen gespeicherten Daten und ausgeführter Operation. Das verändert Test und Absicherung. Ein Fehler in einer Zelle kann nicht nur einen Wert verändern, sondern systematisch viele Ergebnisse beeinflussen. Hersteller benötigen daher Selbsttests, Ersatzzeilen, Fehlercodes und Verfahren, die alternde Zellen erkennen. Kritische Anwendungen sollten analoge Resultate durch unabhängige digitale Plausibilitätsprüfungen absichern.

Nichtflüchtige Modellgewichte können vorteilhaft sein, weil sie nach dem Einschalten sofort verfügbar sind. Zugleich müssen sie gegen unerlaubtes Auslesen und Manipulation geschützt werden. Sichere Schlüsselverwaltung, verschlüsselte Modellpakete, signierte Updates und Zugriffsgrenzen bleiben notwendig. In-Memory Computing löst diese Aufgaben nicht automatisch; es verlagert sie auf eine neue Hardwareebene.

Auch Seitenkanäle verdienen Aufmerksamkeit. Stromaufnahme, Rechenzeit oder elektromagnetische Abstrahlung können Informationen über Daten und Gewichte verraten. Analoge Schaltungen besitzen andere Signaturen als digitale Prozessoren und benötigen entsprechend angepasste Schutzmaßnahmen. Für die breite Einführung zählt daher nicht nur, ob ein Chip schnell rechnet, sondern ob sein Verhalten über Temperatur, Lebensdauer und Angriffe hinweg vorhersehbar bleibt.

Fazit: Der wichtigste Gewinn ist der vermiedene Weg

In-Memory Computing dreht eine jahrzehntealte Annahme um: Daten müssen nicht immer zum Rechenwerk reisen. Wenn eine Operation millionenfach dieselben gespeicherten Gewichte verwendet, kann es effizienter sein, die Berechnung zum Speicher zu bringen – oder den Speicher selbst rechnen zu lassen.

Die Physik liefert dafür eindrucksvolle Möglichkeiten. Analoge Kreuzschienen können Multiplikation und Addition parallel ausführen, digitale PIM-Einheiten reduzieren Speicherverkehr, und nichtflüchtige Zellen halten Modellgewichte ohne ständige Energiezufuhr. Doch der Weg zum Produkt führt über weniger spektakuläre Details: Wandler, Kalibrierung, Fertigungsausbeute, Compiler, Kühlung und Ende-zu-Ende-Genauigkeit.

Deshalb ist In-Memory Computing weder bloßer Hype noch der sofortige Nachfolger von CPU und GPU. Es ist eine zusätzliche Architekturschicht für eine Welt, in der Datenbewegung zum dominierenden Kostenfaktor wird. Die ersten großen Erfolge dürften dort entstehen, wo Aufgaben regelmäßig, matrixlastig und tolerant gegenüber niedriger Präzision sind. Langfristig könnte die wichtigste Recheninnovation dann nicht darin bestehen, eine Operation schneller auszuführen – sondern darin, die Daten gar nicht erst dorthin transportieren zu müssen.

Vorheriger Artikel

KI und Stimme 2026: Wie Sprachmodelle Gespräche in Echtzeit führen

Nächster Artikel

Der Wettlauf um AI Chips: GPU, NPU oder ASIC – welche Hardware KI wirklich braucht

Kommentar schreiben

Hinterlasse einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert