Neural Processing Unit (NPU)

Die Neural Processing Unit (NPU) ist eine dedizierte Hardwarekomponente innerhalb der Hauptverarbeitungseinheit, die neuronale Netzwerkberechnungen effizient ausführt und im Vergleich zu allgemeinen CPUs oder GPUs schnellere KI-Inferenz- und Trainingsaufgaben ermöglicht. Sie wird als Komponente in der Herstellung von Computer-, Elektronik- und Optikprodukten eingesetzt. Die NPU verwendet parallele Verarbeitungsarchitekturen, die für Matrix- und Vektoroperationen in neuronalen Netzen optimiert sind, und nutzt spezielle Schaltungen für Aufgaben wie Faltung, Pooling und Aktivierungsfunktionen mit hoher Energieeffizienz. Typische Parameter umfassen Rechenleistung von 8–32 TOPS, Leistungsaufnahme von 2–15 W, Betriebstemperatur von -40–85 °C (gemäß IEC 60068-2-14), Versorgungsspannung von 0,8–1,2 V, Fertigungsprozess von 7–16 nm, Speicherbandbreite von 25,6–102,4 GB/s, Präzisionsunterstützung von INT8/FP16, Gehäuseabmessungen von 15×15–45×45 mm (gemäß JEDEC MS-028), Gewicht von 5–50 g, Betriebsfeuchtigkeit von 10–90 %RH (gemäß IEC 60068-2-78), ESD-Toleranz von ±2000 V (gemäß IEC 61000-4-2) und MTBF von 100000–500000 h (gemäß Telcordia SR-332). Diese Werte sind Referenzbereiche des Verzeichnisses und müssen für das tatsächliche Modell und die Anwendung bestätigt werden. Die NPU wird typischerweise aus Silizium hergestellt. Auswahlkriterien umfassen erforderliche TOPS für Zielmodelle, thermische Auslegung, Betriebsumgebung und Schnittstellenkompatibilität. Verifikationsfragen sollten modellspezifische Leistung, Wärmemanagement und Einhaltung der aufgeführten Standards betreffen. Wartungssignale umfassen thermische Drosselung, Leistungsabfall oder Nichteinhaltung der Inferenzlatenz. Fehlergrenzen umfassen das Überschreiten der Betriebstemperatur- oder Feuchtigkeitsgrenzen, was zu Schäden oder verringerter Zuverlässigkeit führen kann. Bitte verifizieren Sie modellspezifische Werte und Standards mit dem Hersteller oder Lieferanten.

Die NPU verwendet parallele Verarbeitungsarchitekturen, die für Matrix- und Vektoroperationen in neuronalen Netzen optimiert sind. Sie nutzt spezielle Schaltungen für Faltung, Pooling und Aktivierungsfunktionen mit hoher Energieeffizienz. Durch die parallele Ausführung dieser Operationen beschleunigt die NPU KI-Inferenz- und Trainingsaufgaben im Vergleich zu allgemeinen CPUs oder GPUs.