Verarbeitungselement-Array

Das Verarbeitungselement-Array ist der Kernrechenmotor einer neuronalen Verarbeitungseinheit und umfasst zahlreiche identische oder spezialisierte Verarbeitungselemente, die in einer regelmäßigen Gitterstruktur organisiert sind. Dieses Array ermöglicht die massiv parallele Ausführung von neuronalen Netzwerkoperationen, insbesondere Matrixmultiplikationen und Faltungen, indem Berechnungen gleichzeitig auf mehrere Verarbeitungselemente verteilt werden. Jedes Element enthält typischerweise arithmetisch-logische Einheiten (ALUs), lokalen Speicher und Verbindungen für den Datenaustausch mit benachbarten Elementen. Das Array wird auf Silizium mit Kupferverbindungen und dielektrischen Materialien hergestellt, mit Prozesstechnologien von 7 bis 16 Nanometern. Es ist in Konfigurationen mit 64 bis 1024 Verarbeitungselementen erhältlich, die in Gitterabmessungen von 8x8 bis 32x32 angeordnet sind. Die Taktfrequenz reicht von 500 bis 1500 MHz und bietet einen Spitzendurchsatz von 2 bis 16 TOPS (INT8-Operationen pro Sekunde). Die Leistungsaufnahme variiert zwischen 5 und 30 Watt, abhängig von Arbeitslast und Frequenz, mit einer Kernlogik-Versorgungsspannung von 0,8 bis 1,2 Volt. Der Betriebstemperaturbereich liegt bei -40 bis 85 Grad Celsius, die Lagertemperatur bei -55 bis 125 Grad Celsius, mit einer relativen Luftfeuchtigkeit von bis zu 95% ohne Kondensation. Zu den Gehäusetypen gehören BGA-256 bis BGA-1156, mit Gehäusegrößen von 15x15 bis 45x45 Millimetern und einem Gewicht von 5 bis 20 Gramm. Diese Spezifikationen sind Referenzbereiche und müssen für das spezifische Modell und die Anwendung mit dem rechtlichen Hersteller oder Lieferanten verifiziert werden. Das Array ist für die Integration in NPUs für Edge-Computing, Rechenzentren und andere KI-Inferenz- und Trainingsanwendungen ausgelegt. Seine Architektur ermöglicht die effiziente Ausführung von Deep-Learning-Workloads und balanciert Leistung und Stromverbrauch. Das Verarbeitungselement-Array ist eine kritische Komponente zur Beschleunigung neuronaler Netzwerkberechnungen und ermöglicht Echtzeitverarbeitung in verschiedenen Geräten.

Das Verarbeitungselement-Array arbeitet, indem es neuronale Netzwerkberechnungen parallel auf seine mehreren Verarbeitungselemente verteilt. Eingabedaten (Aktivierungen) und Gewichte werden an das Array gesendet oder gestreamt, wobei jedes Verarbeitungselement Multiplikations-Akkumulations-Operationen (MAC) auf seiner zugewiesenen Datenuntermenge durchführt. Ergebnisse werden über das Verbindungsnetzwerk des Arrays aggregiert, was die effiziente Ausführung großer Matrixoperationen ermöglicht, die für Inferenz und Training neuronaler Netzwerke grundlegend sind. Die Gitterstruktur des Arrays ermöglicht den Datenfluss zwischen benachbarten Elementen, reduziert Datenbewegungen und verbessert die Effizienz. Die Parallelität des Arrays beschleunigt die Berechnung im Vergleich zur sequentiellen Verarbeitung erheblich und macht es für Echtzeit-KI-Anwendungen geeignet.