Los chips de inteligencia artificial de vanguardia nacional aterrizaron en el campo de la inteligencia artificial
Chip AI de borde
Hoy en día, debido al impacto de datos causado por el auge del Internet de las cosas, el procesamiento de datos importantes de los sensores de IoT se está acercando cada vez más a la ubicación original de los datos, y existe una demanda de tecnología de aprendizaje automático basada en la computación de borde. . En los últimos dos años, el tema del desarrollo de la inteligencia artificial ha sido muy claro, es decir, aplicaciones de aterrizaje. Entre las muchas tecnologías de IA, ya sea la aplicación de algoritmo de nivel superior o el producto, en última instancia depende de la garantía de la potencia informática subyacente, es decir, el chip de IA.
Tendencia de aterrizaje en el mercado de Edge AI
Desde el año pasado, el mercado de inteligencia artificial de vanguardia ha entrado en un período explosivo y el número de terminales AIoT ha superado al de los teléfonos inteligentes. Desde la perspectiva de los escenarios de aterrizaje de IA, las dos cargas de trabajo principales de los chips de IA son principalmente el entrenamiento de datos y los cálculos de inferencia. Entre ellos, la tasa de crecimiento de la cuota de mercado de la computación de inferencia se está poniendo al día con el mercado de formación de datos.
Ahora, un modelo de algoritmo puede alcanzar solo 2 KB, pero el rendimiento es superior al algoritmo de red neuronal de 4 MB. La miniaturización de los algoritmos de aprendizaje profundo muestra que el modelo supergrande representado por GPT-3 no es adecuado para el mercado empresarial.
En el nuevo marco de IoT, los datos se pueden procesar localmente en el dispositivo. Esto requiere considerar las condiciones de implementación limitadas del modelo de algoritmo en diferentes escenarios en el diseño del chip subyacente, incluida la asignación de potencia de cálculo, consumo de energía y área de silicio. Desde la perspectiva de la utilidad de costo de la potencia de computación unitaria, el cálculo de inferencia puede representar mejor la dirección de aterrizaje requerida por el mercado a nivel empresarial.
Desafío de aterrizaje de chips Edge AI
La primera es que los escenarios de la IA de borde están diversificados y los diferentes escenarios tienen diferentes requisitos para el consumo de energía y el rendimiento del chip. Por otro lado, la capacidad de mercado de los escenarios fragmentados es incierta y es necesario encontrar un equilibrio entre los costes de ingeniería y los beneficios de la investigación y el desarrollo de chips, una prueba a la que deben enfrentarse todos los fabricantes de chips.
La adquisición de datos de alta calidad también es una dificultad importante, es decir, cómo filtrar datos confiables de big data. Big data no significa datos de alta calidad. La realización de tareas de aprendizaje profundo en chips de IA requiere una optimización continua de los sensores de hardware.
Además, para los clientes tradicionales, además del costo de adquisición de productos inteligentes, también existen costos de uso. El consumo de energía del chip y si el producto es fácil de implementar afectan la implementación y promoción de la IA. La forma en que los fabricantes de chips personalizan chips con diferentes potencias informáticas de acuerdo con diferentes escenarios también es un problema en el enlace de aterrizaje.
En la actualidad, el chip de inteligencia artificial de borde carece de una plataforma de desarrollo de alta disponibilidad, el diseño de herramientas de compilación de software es complicado y el umbral de desarrollo y uso del usuario es alto, pero son previsibles que continuarán mejorando e iterando en el proceso de aterrizaje.
Chip AI de borde comercial
Serie Sunburst
Para AIoT, Horizon ha lanzado la serie Rising Sun de chips de inteligencia artificial de borde. A través de los esfuerzos conjuntos de diseño de circuitos integrados y software, se ha logrado un equilibrio entre rendimiento, consumo de energía, flexibilidad y costo. El chip AI Rising Sun 2 edge adopta la arquitectura BPU Bernoulli 1.0, que puede proporcionar una potencia informática equivalente a 4TOPS y realizar una detección en tiempo real y un reconocimiento preciso de múltiples tipos de objetivos. Rising Sun 2 integra Dual-Cortex A53, que puede soportar de manera eficiente una variedad de tareas principales de IA. También es compatible con EMCC y SPI Flash.
Rising Sun 3 es lanzado por Horizon, centrándose en una nueva generación de chips AIoT edge AI con bajo consumo de energía y alto rendimiento. Integra el motor de inteligencia artificial (BPU) de arquitectura Bernoulli 2.0 más avanzado de Horizon, que puede proporcionar una potencia informática equivalente a 5 TOPS.
La nueva arquitectura BPU mejora en gran medida el soporte para la arquitectura de red CNN avanzada y reduce en gran medida la tasa de ocupación del ancho de banda DDR por operaciones de IA. Complementado por la plataforma de desarrollo de IA Horizon Tiangong Kaiwu, simplifica enormemente el proceso de desarrollo e implementación del algoritmo y reduce el costo de aterrizaje de los productos de IA.
Bajo la estructura de Bernoulli 2.0 BPU, la utilización de DDR se incrementa 5 veces. El algoritmo de procesamiento de ISP avanzado permite obtener imágenes de alta calidad de 1200 w píxeles en escenas amplias, dinámicas y con poca iluminación. Rising Sun 3 puede procesar simultáneamente 4 ~ 8 entradas de sensor de cámara de diferentes resoluciones y admite una variedad de posprocesamiento de imágenes.También admite codificación y decodificación H.264 / H.265, con un rendimiento de 4K @ 60fps.
1
(Amanecer 3)
Kanzhi K210 / K510
El chip Kanzhi K210 de primera generación está diseñado específicamente para tareas de visión artificial. La capacidad de computación de punto flotante puede alcanzar 1.28TFLOPS, que es comparable a las opciones de desarrollo convencionales en el campo integrado. Al mismo tiempo, su consumo de energía es de solo 0,3 W, y el consumo de energía en escenarios de trabajo típicos es inferior a 1 W, y el consumo de energía por unidad de potencia informática es bajo, lo que es una opción muy económica. La Kanzhi K510 de segunda generación se actualiza de acuerdo con la situación real del aterrizaje y los comentarios de los clientes. Este núcleo de IP se ha rediseñado para satisfacer los requisitos de recursos informáticos, almacenamiento y ancho de banda en diferentes niveles de la red neuronal, y para aumentar la tasa de reutilización de datos y reducir el consumo de energía del chip.
En segundo lugar, para la velocidad y la calidad de la adquisición de datos, Kanzhi K510 está equipado con un módulo de visión completamente nuevo. En comparación con el chip de primera generación, el K510 se ha optimizado en gran medida en términos de velocidad de fotogramas y periféricos. La velocidad de fotogramas por terabyte ha alcanzado el nivel líder en la industria. Además, K510 también admite el cálculo de BF16 de punto flotante, que tiene ventajas sobre productos similares en escenarios que no son adecuados para la cuantificación del modelo.
2
(Diagrama esquemático del subsistema de video)
resumen
A largo plazo, los chips de inteligencia artificial de vanguardia elevarán las aplicaciones de IoT empresariales a un nivel completamente nuevo. Los dispositivos inteligentes impulsados ​​por chips de inteligencia artificial ayudarán a expandir los mercados existentes al tiempo que cambian los métodos de distribución de valor de diversas industrias, como la fabricación, la construcción, la logística, la agricultura y la energía.