Les puces d'intelligence artificielle de pointe ont atterri dans le domaine de l'intelligence artificielle
Puce Edge AI
De nos jours, en raison du choc des données causé par l'essor de l'Internet des objets, le traitement des données importantes des capteurs IoT se rapproche de plus en plus de l'emplacement d'origine des données, et il existe une demande pour une technologie d'apprentissage automatique basée sur l'informatique de pointe. . Au cours des deux dernières années, le thème du développement de l'intelligence artificielle a été très clair, à savoir l'atterrissage d'applications. Parmi les nombreuses technologies d'IA, qu'il s'agisse de l'application d'algorithme de niveau supérieur ou du produit, cela dépend finalement de la garantie de la puissance de calcul sous-jacente, c'est-à-dire de la puce d'IA.
Tendance d'atterrissage du marché Edge AI
Depuis l'année dernière, le marché de l'intelligence artificielle est entré dans une période explosive et le nombre de terminaux AIoT a dépassé celui des smartphones. Du point de vue des scénarios d'atterrissage d'IA, les deux charges de travail principales des puces d'IA sont principalement l'apprentissage des données et les calculs d'inférence. Parmi eux, le taux de croissance de la part de marché du calcul d'inférence rattrape le marché de la formation aux données.
Désormais, un modèle d'algorithme ne peut atteindre que 2 Ko, mais les performances sont supérieures à l'algorithme de réseau neuronal de 4 Mo. La miniaturisation des algorithmes de deep learning montre que le modèle ultra-large représenté par GPT-3 n'est pas adapté au marché des entreprises.
Dans le nouveau framework IoT, les données peuvent être traitées localement sur l'appareil. Cela nécessite de prendre en compte les conditions de déploiement limitées du modèle d'algorithme dans différents scénarios dans la conception de la puce sous-jacente, y compris l'allocation de la puissance de calcul, la consommation d'énergie et la zone de silicium. Du point de vue de l'utilité du coût de la puissance de calcul unitaire, le calcul d'inférence peut mieux représenter la direction d'atterrissage requise par le marché au niveau de l'entreprise.
Défi d'atterrissage de puce Edge AI
La première est que les scénarios d'intelligence artificielle de pointe sont diversifiés et que différents scénarios ont des exigences différentes en matière de consommation d'énergie et de performances de la puce. D'autre part, la capacité du marché des scénarios fragmentés est incertaine et il est nécessaire de trouver un équilibre entre les coûts d'ingénierie et les avantages de la recherche et du développement des puces.C'est un test auquel tous les fabricants de puces doivent faire face.
L'acquisition de données de haute qualité est également une difficulté majeure, c'est-à-dire comment filtrer les données fiables du big data. Big data n'est pas synonyme de données de haute qualité. Effectuer des tâches d'apprentissage en profondeur sur des puces d'IA nécessite une optimisation continue des capteurs matériels.
De plus, pour les clients traditionnels, outre le coût d'achat des produits intelligents, il existe également des coûts d'utilisation. La consommation électrique de la puce et la facilité de déploiement du produit affectent tous la mise en œuvre et la promotion de l'IA. La façon dont les fabricants de puces personnalisent les puces avec différentes puissances de calcul en fonction de différents scénarios est également un problème dans le lien d'atterrissage.
À l'heure actuelle, la puce Edge AI ne dispose pas d'une plate-forme de développement hautement disponible, la conception d'outils de compilation de logiciels est compliquée et le seuil de développement et d'utilisation de l'utilisateur est élevé, mais il est prévisible que ceux-ci continueront d'être améliorés et itérés au cours du processus d'atterrissage.
Puce AI de bord commercial
Série Sunburst
Pour AIoT, Horizon a lancé la série Rising Sun de puces Edge AI. Grâce aux efforts conjoints de la conception des circuits intégrés et du logiciel, un équilibre entre les performances, la consommation d'énergie, la flexibilité et le coût a été atteint. La puce Rising Sun 2 edge AI adopte l'architecture BPU Bernoulli 1.0, qui peut fournir une puissance de calcul équivalente à 4TOPS, et effectuer une détection en temps réel et une reconnaissance précise de plusieurs types de cibles. Rising Sun 2 intègre Dual-Cortex A53, qui peut prendre en charge efficacement une variété de tâches d'IA traditionnelles. Il prend également en charge EMCC et SPI Flash.
Rising Sun 3 est lancé par Horizon, en se concentrant sur une nouvelle génération de puces AIoT edge AI à faible consommation d'énergie et à hautes performances. Il intègre le moteur d'intelligence artificielle (BPU) d'architecture Bernoulli 2.0 le plus avancé d'Horizon, qui peut fournir une puissance de calcul équivalente à 5TOPS.
La nouvelle architecture BPU améliore considérablement la prise en charge de l'architecture de réseau CNN avancée et réduit considérablement le taux d'occupation de la bande passante DDR par les opérations d'IA. Complété par la plate-forme de développement d'IA Horizon Tiangong Kaiwu, il simplifie grandement le processus de développement et de déploiement d'algorithmes et réduit le coût d'atterrissage des produits d'IA.
Sous la structure Bernoulli 2.0 BPU, l'utilisation de la DDR est augmentée de 5 fois. L'algorithme de traitement ISP avancé permet d'obtenir des images de haute qualité de 1200 w pixels dans des scènes larges dynamiques et à faible éclairage. Rising Sun 3 peut traiter simultanément 4 à 8 entrées de capteur de caméra de différentes résolutions et prend en charge une variété de post-traitement d'images. Il prend également en charge l'encodage et le décodage H.264 / H.265, avec une performance de 4K à 60 ips.
1
(Lever du soleil 3)
Kanji K210/K510
La puce Kanzhi K210 de première génération est spécialement conçue pour les tâches de vision industrielle. La capacité de calcul en virgule flottante peut atteindre 1,28 TFLOPS, ce qui est comparable aux options de développement courantes dans le domaine de l'embarqué. Dans le même temps, sa consommation électrique n'est que de 0,3 W, et la consommation électrique dans les scénarios de travail typiques est inférieure à 1 W, et la consommation électrique par unité de puissance de calcul est faible, ce qui est un choix très économique. Le Kanzhi K510 de deuxième génération est mis à niveau en fonction de la situation d'atterrissage réelle et des commentaires des clients. Ce cœur IP est repensé pour répondre aux exigences en matière de ressources informatiques, de stockage et de bande passante à différents niveaux du réseau neuronal, et pour augmenter le taux de réutilisation des données et réduire la consommation d'énergie de la puce.
Deuxièmement, pour la vitesse et la qualité de l'acquisition des données, Kanzhi K510 est équipé d'un tout nouveau module de vision. Par rapport à la puce de première génération, le K510 a été grandement optimisé en termes de fréquence d'images et de périphériques. La fréquence d'images par téraoctet a atteint le niveau le plus élevé de l'industrie. En outre, K510 prend également en charge le calcul BF16 à virgule flottante, ce qui présente des avantages par rapport à des produits similaires dans des scénarios qui ne conviennent pas à la quantification de modèle.
2
(Schéma schématique du sous-système vidéo)
sommaire
À long terme, les puces d'intelligence artificielle de pointe élèveront les applications IoT d'entreprise à un tout autre niveau. Les appareils intelligents pilotés par des puces d'IA aideront à étendre les marchés existants tout en modifiant les méthodes de distribution de la valeur de diverses industries telles que la fabrication, la construction, la logistique, l'agriculture et l'énergie.