Heimische Edge-KI-Chips sind im Bereich der künstlichen Intelligenz gelandet
Edge-KI-Chip
Heutzutage rückt die Verarbeitung wichtiger IoT-Sensordaten aufgrund des Datenschocks durch das Aufkommen des Internets der Dinge immer näher an den ursprünglichen Ort der Daten und es besteht Bedarf an maschineller Lerntechnologie auf Basis von Edge Computing . In den letzten zwei Jahren war das Thema der Entwicklung künstlicher Intelligenz sehr klar, also Anwendungen landen. Bei den vielen KI-Technologien, sei es die übergeordnete Algorithmusanwendung oder das Produkt, kommt es letztlich auf die Gewährleistung der zugrunde liegenden Rechenleistung, also des KI-Chips, an.
Edge-KI-Marktlandungstrend
Seit letztem Jahr ist der Edge-KI-Markt in eine explosive Phase eingetreten und die Zahl der AIoT-Terminals hat die der Smartphones übertroffen. Aus Sicht von KI-Landungsszenarien sind die beiden Hauptarbeitslasten von KI-Chips hauptsächlich Datentraining und Inferenzberechnungen. Unter ihnen holt die Wachstumsrate des Marktanteils von Inferenzcomputern den Markt für Datentraining ein.
Jetzt kann ein Algorithmusmodell nur 2 KB erreichen, aber die Leistung beträgt mehr als 4 MB neuronaler Netzwerkalgorithmus. Die Miniaturisierung von Deep-Learning-Algorithmen zeigt, dass das von GPT-3 repräsentierte supergroße Modell nicht für den Enterprise-Markt geeignet ist.
Im neuen IoT-Framework können Daten lokal auf dem Gerät verarbeitet werden. Dies erfordert die Berücksichtigung der eingeschränkten Einsatzbedingungen des Algorithmusmodells in verschiedenen Szenarien beim Design des zugrunde liegenden Chips, einschließlich der Zuweisung von Rechenleistung, Leistungsaufnahme und Siliziumfläche. Aus der Sicht des Kostennutzens der Rechenleistungseinheit kann die Inferenzberechnung die vom Markt auf Unternehmensebene geforderte Landerichtung besser darstellen.
Edge-KI-Chiplandungsherausforderung
Der erste ist, dass die Szenarien der Edge-KI diversifiziert sind und verschiedene Szenarien unterschiedliche Anforderungen an den Stromverbrauch und die Leistung des Chips haben. Auf der anderen Seite ist die Marktfähigkeit fragmentierter Szenarien ungewiss, und es muss ein Gleichgewicht zwischen den Engineeringkosten und dem Nutzen der Chipforschung und -entwicklung gefunden werden – eine Prüfung, der sich alle Chiphersteller stellen müssen.
Auch die Gewinnung qualitativ hochwertiger Daten stellt eine große Schwierigkeit dar, also wie man verlässliche Daten aus Big Data herausfiltert. Big Data bedeutet nicht hochwertige Daten.Die Durchführung von Deep-Learning-Aufgaben auf KI-Chips erfordert eine kontinuierliche Optimierung der Hardware-Sensoren.
Darüber hinaus fallen für traditionelle Kunden neben den Anschaffungskosten von smarten Produkten auch Nutzungskosten an. Der Stromverbrauch des Chips und die einfache Bereitstellung des Produkts wirken sich alle auf die Implementierung und Förderung von KI aus. Wie Chiphersteller Chips mit unterschiedlichen Rechenleistungen für unterschiedliche Szenarien anpassen, ist auch ein Pain Point in the Landing Link.
Derzeit fehlt dem Edge-KI-Chip eine hochverfügbare Entwicklungsplattform, das Design von Software-Kompilierungstools ist kompliziert und die Entwicklungs- und Nutzungsschwelle des Benutzers ist hoch, aber diese werden absehbar im Landeprozess weiter verbessert und iteriert.
Kommerzieller Edge-KI-Chip
Sunburst-Serie
Für AIoT hat Horizon die Rising Sun-Serie von Edge-KI-Chips auf den Markt gebracht. Durch die gemeinsamen Anstrengungen von IC-Design und Software wurde ein Gleichgewicht zwischen Leistung, Stromverbrauch, Flexibilität und Kosten erreicht. Der Rising Sun 2-Edge-KI-Chip verwendet die BPU Bernoulli 1.0-Architektur, die eine 4TOPS-äquivalente Rechenleistung bieten und eine Echtzeiterkennung und genaue Erkennung mehrerer Arten von Zielen durchführen kann. Rising Sun 2 integriert Dual-Cortex A53, das eine Vielzahl von Mainstream-KI-Aufgaben effizient unterstützen kann. Es unterstützt auch EMCC und SPI Flash.
Rising Sun 3 wird von Horizon auf den Markt gebracht und konzentriert sich auf eine neue Generation von AIoT-Edge-KI-Chips mit geringem Stromverbrauch und hoher Leistung. Es integriert Horizons fortschrittlichste KI-Engine (BPU) mit Bernoulli 2.0-Architektur, die eine äquivalente Rechenleistung von 5TOPS bereitstellen kann.
Die neue BPU-Architektur verbessert die Unterstützung für die fortschrittliche CNN-Netzwerkarchitektur erheblich und reduziert die Auslastung der DDR-Bandbreite durch KI-Operationen erheblich. Ergänzt durch die KI-Entwicklungsplattform Horizon Tiangong Kaiwu vereinfacht es den Algorithmusentwicklungs- und Bereitstellungsprozess erheblich und reduziert die Landekosten von KI-Produkten.
Unter der Bernoulli 2.0 BPU-Struktur wird die DDR-Auslastung um das Fünffache erhöht. Der fortschrittliche ISP-Verarbeitungsalgorithmus ermöglicht es, qualitativ hochwertige 1200-W-Pixel-Bilder in breiten dynamischen und schwach beleuchteten Szenen zu erhalten. Rising Sun 3 kann gleichzeitig 4 bis 8 Kamerasensoreingänge mit unterschiedlichen Auflösungen verarbeiten und unterstützt eine Vielzahl von Bildnachbearbeitungen sowie H.264 / H.265-Kodierung und -Dekodierung mit einer Leistung von 4K@60fps.
1
(Sonnenaufgang 3)
Kanzhi K210 /K510
Der Chip der ersten Generation, Kanzhi K210, ist speziell für Machine-Vision-Aufgaben konzipiert und erreicht eine Fließkomma-Rechenleistung von 1,28 TFLOPS, vergleichbar mit Mainstream-Entwicklungsoptionen im Embedded-Bereich. Gleichzeitig beträgt der Stromverbrauch nur 0,3 W und der Stromverbrauch in typischen Arbeitsszenarien beträgt weniger als 1 W, und der Stromverbrauch pro Rechenleistungseinheit ist gering, was eine sehr wirtschaftliche Wahl ist. Der Kanzhi K510 der zweiten Generation wird entsprechend der tatsächlichen Landesituation und dem Kundenfeedback aufgerüstet. Dieser IP-Core wird neu aufgebaut, um die Anforderungen an Rechenressourcen, Speicher und Bandbreite auf verschiedenen Ebenen im neuronalen Netz zu realisieren und die Datenwiederverwendungsrate zu erhöhen und den Stromverbrauch des Chips zu reduzieren.
Zweitens ist Kanzhi K510 für die Geschwindigkeit und Qualität der Datenerfassung mit einem brandneuen Vision-Modul ausgestattet. Im Vergleich zum Chip der ersten Generation wurde der K510 in Bezug auf Bildrate und Peripherie stark optimiert. Die Bildrate pro Terabyte hat das branchenführende Niveau erreicht. Darüber hinaus unterstützt K510 auch die Gleitkomma-BF16-Berechnung, was in Szenarien, die für die Modellquantisierung nicht geeignet sind, Vorteile gegenüber ähnlichen Produkten hat.
2
(Schematische Darstellung des Video-Subsystems)
Zusammenfassung
Langfristig werden Edge-KI-Chips Enterprise-IoT-Anwendungen auf eine ganz neue Ebene heben. Intelligente Geräte, die von KI-Chips angetrieben werden, werden dazu beitragen, bestehende Märkte zu erweitern und gleichzeitig die Wertverteilungsmethoden verschiedener Branchen wie Fertigung, Bau, Logistik, Landwirtschaft und Energie zu verändern.