Technologies

News information

I chip AI edge domestici sono sbarcati nel campo dell'intelligenza artificiale

Rilasciare : 13 ott 2021

I chip AI edge domestici sono sbarcati nel campo dell'intelligenza artificiale
Chip AI Edge
Al giorno d'oggi, a causa dello shock dei dati causato dall'ascesa dell'Internet of Things, l'elaborazione di importanti dati dei sensori IoT si sta avvicinando sempre di più alla posizione originale dei dati e c'è una domanda di tecnologia di apprendimento automatico basata sull'edge computing . Negli ultimi due anni, il tema dello sviluppo dell'intelligenza artificiale è stato molto chiaro, ovvero le applicazioni di atterraggio. Tra le tante tecnologie AI, che si tratti dell'applicazione dell'algoritmo di livello superiore o del prodotto, dipende in ultima analisi dalla garanzia della potenza di calcolo sottostante, ovvero il chip AI.
Tendenza all'atterraggio del mercato dell'IA Edge
Dallo scorso anno, il mercato dell'IA edge è entrato in un periodo esplosivo e il numero di terminali AIoT ha superato quello degli smartphone. Dal punto di vista degli scenari di atterraggio dell'IA, i due principali carichi di lavoro dei chip AI sono principalmente l'addestramento dei dati e i calcoli di inferenza. Tra questi, il tasso di crescita della quota di mercato del calcolo per inferenza sta raggiungendo il mercato della formazione dei dati.
Ora un modello di algoritmo può raggiungere solo 2 KB, ma le prestazioni sono superiori a 4 MB di algoritmo di rete neurale. La miniaturizzazione degli algoritmi di deep learning mostra che il modello super-large rappresentato da GPT-3 non è adatto al mercato enterprise.
Nel nuovo framework IoT, i dati possono essere elaborati localmente sul dispositivo. Ciò richiede la considerazione delle condizioni di implementazione limitate del modello di algoritmo in diversi scenari nella progettazione del chip sottostante, inclusa l'allocazione della potenza di calcolo, del consumo energetico e dell'area di silicio. Dal punto di vista dell'utilità del costo della potenza di calcolo unitario, il calcolo dell'inferenza può rappresentare meglio la direzione di atterraggio richiesta dal mercato a livello aziendale.
Sfida di atterraggio del chip Edge AI
Il primo è che gli scenari di edge AI sono diversificati e diversi scenari hanno requisiti diversi per il consumo energetico e le prestazioni del chip. D'altra parte, la capacità di mercato di scenari frammentati è incerta ed è necessario trovare un equilibrio tra i costi di progettazione ei benefici della ricerca e sviluppo di chip, un test che tutti i produttori di chip devono affrontare.
Anche l'acquisizione di dati di alta qualità è una grande difficoltà, ovvero come filtrare dati affidabili dai big data. Big data non significa dati di alta qualità: l'esecuzione di attività di deep learning su chip AI richiede l'ottimizzazione continua dei sensori hardware.
Inoltre, per i clienti tradizionali, oltre al costo di approvvigionamento dei prodotti intelligenti, ci sono anche i costi di utilizzo. Il consumo energetico del chip e la facilità di implementazione del prodotto influiscono sull'implementazione e sulla promozione dell'IA. Anche il modo in cui i produttori di chip personalizzano chip con diverse potenze di calcolo in base a scenari diversi è un punto dolente nel collegamento di atterraggio.
Al momento, il chip AI edge manca di una piattaforma di sviluppo altamente disponibile, la progettazione di strumenti di compilazione del software è complicata e la soglia di sviluppo e utilizzo dell'utente è elevata, ma è prevedibile che continueranno a essere migliorati e iterati nel processo di atterraggio.
Chip AI di bordo commerciale
Serie Sunburst
Per AIoT, Horizon ha lanciato la serie Rising Sun di chip AI edge. Grazie agli sforzi congiunti della progettazione dei circuiti integrati e del software, è stato raggiunto un equilibrio tra prestazioni, consumo energetico, flessibilità e costi. Il chip AI edge Rising Sun 2 adotta l'architettura BPU Bernoulli 1.0, che può fornire una potenza di calcolo equivalente a 4TOPS ed eseguire il rilevamento in tempo reale e il riconoscimento accurato di più tipi di obiettivi. Rising Sun 2 integra Dual-Cortex A53, che può supportare in modo efficiente una varietà di attività AI tradizionali. Supporta anche EMCC e SPI Flash.
Rising Sun 3 viene lanciato da Horizon, incentrato su una nuova generazione di chip AIoT edge AI a basso consumo energetico e ad alte prestazioni. Integra il motore AI (BPU) dell'architettura Bernoulli 2.0 più avanzato di Horizon, in grado di fornire una potenza di calcolo equivalente a 5TOPS.
La nuova architettura BPU migliora notevolmente il supporto per l'architettura di rete CNN avanzata e riduce notevolmente il tasso di occupazione della larghezza di banda DDR da parte delle operazioni AI. Integrato dalla piattaforma di sviluppo AI Horizon Tiangong Kaiwu, semplifica notevolmente il processo di sviluppo e distribuzione dell'algoritmo e riduce il costo di atterraggio dei prodotti AI.
Sotto la struttura BPU Bernoulli 2.0, l'utilizzo di DDR è aumentato di 5 volte. L'avanzato algoritmo di elaborazione ISP consente di ottenere immagini di alta qualità da 1200 w pixel in scene con ampia dinamica e scarsa illuminazione. Rising Sun 3 è in grado di elaborare contemporaneamente da 4 a 8 ingressi del sensore della fotocamera di diverse risoluzioni e supporta una varietà di post-elaborazione delle immagini.Supporta anche la codifica e la decodifica H.264 / H.265, con prestazioni di 4K a 60 fps.
1
(alba 3)
Kanzhi K210/K510
Il chip di prima generazione Kanzhi K210 è specificamente progettato per attività di visione artificiale.La capacità di calcolo in virgola mobile può raggiungere 1,28TFLOPS, che è paragonabile alle opzioni di sviluppo tradizionali nel campo embedded. Allo stesso tempo, il suo consumo energetico è di soli 0,3 W e il consumo energetico in scenari di lavoro tipici è inferiore a 1 W e il consumo energetico per unità di potenza di calcolo è basso, il che è una scelta molto economica. Il Kanzhi K510 di seconda generazione viene aggiornato in base alla situazione di atterraggio effettiva e al feedback dei clienti. Questo core IP è stato riprogettato per soddisfare i requisiti per le risorse di elaborazione, l'archiviazione e la larghezza di banda a diversi livelli nella rete neurale e per aumentare la velocità di riutilizzo dei dati e ridurre il consumo energetico del chip.
In secondo luogo, per la velocità e la qualità dell'acquisizione dei dati, Kanzhi K510 è dotato di un nuovissimo modulo di visione. Rispetto al chip di prima generazione, il K510 è stato notevolmente ottimizzato in termini di frame rate e periferiche. Il frame rate per terabyte ha raggiunto il livello leader del settore. Inoltre, K510 supporta anche il calcolo BF16 in virgola mobile, che presenta vantaggi rispetto a prodotti simili in scenari non adatti alla quantizzazione del modello.
2
(Schema schematico del sottosistema Video)
riepilogo
A lungo termine, i chip AI edge eleveranno le applicazioni IoT aziendali a un livello completamente nuovo. I dispositivi intelligenti guidati da chip AI aiuteranno ad espandere i mercati esistenti, cambiando i metodi di distribuzione del valore di vari settori come produzione, edilizia, logistica, agricoltura ed energia.