Das Ende der Speichereinschränkungen in der KI? Carmack setzt auf die Glasfaserinfrastruktur

Wie techradar berichtet, hat der Mitbegründer von id Software, John Carmack, angedeutet, dass ein sehr langes Glasfaserkabel den klassischen RAM in KI-Systemen ersetzen könnte. Es geht um bis zu 200 km Kabel, das bei einer Bandbreite von 256 Tb/s in der Lage wäre, etwa 32 GB Daten in der Übertragung zu „speichern“. Laut Carmack nutzen KI-Modelle vorhersagbare Muster beim Zugriff auf Gewichte, sodass man sich eine Architektur ohne traditionelles DRAM vorstellen kann, bei der Daten kontinuierlich über ein geschlungenes Glasfaserleitung in den Cache gestreamt werden. Dies ist eine Antwort auf das wachsende Problem der Speicherkapazitätsbeschränkungen in Rechenzentren. Bis jetzt ist es ein Konzept, aber es zeigt einen alternativen Entwicklungspfad für die Infrastruktur der KI.

Zukunft des AI-Speichers im Fokus

Der derzeitige Speicher-Markt steht unter enormem Druck. Die Nachfrage, angetrieben durch AI, übersteigt das Angebot erheblich, und es handelt sich dabei nicht nur um Server-RAM in Rechenzentren, sondern auch um Speicher in Beschleunigern und Grafikkarten. Genau deshalb sucht John Carmack nach Alternativen in Form von Glasfaserinfrastruktur, die die klassischen Speichermodule entlasten und den heute im gesamten PC-Segment sichtbaren Domino-Effekt der Preise eindämmen könnte.

Die Idee selbst hat jedoch ernsthafte Hürden. Es wäre eine enorme Menge an Glasfaser erforderlich, und die Aufrechterhaltung der Signalqualität in einer solchen Schleife ist nicht trivial. Carmack weist auch auf eine bodenständigere Option hin, nämlich die Kombination mehrerer billiger Flash-Module in einem parallelen System mit hoher Bandbreite, vorausgesetzt, es wird eine schnelle Schnittstelle geschaffen, die direkt mit den AI-Beschleunigern zusammenarbeitet.

Diese Lösung scheint näher an der Umsetzung zu sein, erfordert jedoch die Zusammenarbeit von GPU- und Speicherherstellern. In der Zwischenzeit könnte die RAM-Krise noch viele Monate andauern, weshalb die Suche nach neuen Architekturen für KI-Modelle kein Experiment mehr ist, sondern zur Notwendigkeit wird.

Quelle: techradar.com