人工知能の分野に上陸した国内エッジAIチップ
エッジAIチップ
現在、モノのインターネットの台頭によるデータショックにより、重要なIoTセンサーデータの処理がデータの元の場所にますます近づき、エッジコンピューティングに基づく機械学習技術が求められています。 。過去2年間で、人工知能開発のテーマ、つまり着陸アプリケーションは非常に明確になりました。多くのAIテクノロジーの中で、それが上位レベルのアルゴリズムアプリケーションであろうと製品であろうと、最終的には、基盤となるコンピューティング能力、つまりAIチップの保証に依存します。
エッジAI市場の着陸傾向
昨年以来、エッジAI市場は爆発的な時期を迎えており、AIoT端末の数はスマートフォンの数を上回っています。 AI着陸シナリオの観点から、AIチップの2つの主要なワークロードは、主にデータトレーニングと推論計算です。その中で、推論コンピューティングの市場シェアの成長率は、データトレーニング市場に追いついています。
現在、アルゴリズムモデルは2KBしか達成できませんが、パフォーマンスは4MBを超えるニューラルネットワークアルゴリズムです。深層学習アルゴリズムの小型化は、GPT-3で表される超大規模モデルがエンタープライズ市場に適していないことを示しています。
新しいIoTフレームワークでは、データをデバイス上でローカルに処理できます。これには、コンピューティングパワー、消費電力、シリコン領域の割り当てなど、基盤となるチップの設計におけるさまざまなシナリオでのアルゴリズムモデルの限られた展開条件を考慮する必要があります。単位計算能力の費用効用の観点から、推論計算は、企業レベルの市場が必要とする着陸方向をより適切に表すことができます。
エッジAIチップ着陸の課題
1つ目は、エッジAIのシナリオが多様化しており、シナリオごとに消費電力とチップのパフォーマンスに関する要件が異なることです。一方、断片化されたシナリオの市場キャパシティは不確実であり、エンジニアリングコストとチップの研究開発のメリットのバランスをとる必要があります。これは、すべてのチップメーカーが直面する必要のあるテストです。
高品質のデータを取得することも大きな問題です。つまり、ビッグデータから信頼できるデータをフィルタリングする方法です。ビッグデータは高品質のデータを意味するものではありません。AIチップでディープラーニングタスクを実行するには、ハードウェアセンサーを継続的に最適化する必要があります。
また、従来のお客様の場合、スマート製品の調達コストに加えて、使用コストも発生します。チップの消費電力と製品の展開が容易かどうかはすべて、AIの実装とプロモーションに影響します。チップメーカーがさまざまなシナリオに応じてさまざまな計算能力でチップをカスタマイズする方法も、ランディングリンクの問題点です。
現在、エッジAIチップには可用性の高い開発プラットフォームがなく、ソフトウェアコンパイルツールの設計が複雑で、ユーザーの開発と使用のしきい値が高くなっていますが、着陸の過程でこれらは改善され、繰り返されることが予想されます。
コマーシャルエッジAIチップ
サンバーストシリーズ
AIoT向けに、HorizonはエッジAIチップのRisingSunシリーズを発売しました。 IC設計とソフトウェアの共同の努力により、性能、消費電力、柔軟性、およびコストのバランスが達成されました。 Rising Sun 2エッジAIチップは、4TOPSと同等の計算能力を提供し、複数のタイプのターゲットのリアルタイム検出と正確な認識を実行できるBPUBernoulli1.0アーキテクチャを採用しています。 Rising Sun 2は、さまざまな主流のAIタスクを効率的にサポートできるDual-CortexA53を統合しています。また、EMCCおよびSPIフラッシュもサポートしています。
Rising Sun 3は、低消費電力と高性能を備えた新世代のAIoTエッジAIチップに焦点を当てたHorizonによって発売されました。これは、Horizonの最先端のベルヌーイ2.0アーキテクチャAIエンジン（BPU）を統合しており、5TOPSと同等の計算能力を提供できます。
新しいBPUアーキテクチャは、高度なCNNネットワークアーキテクチャのサポートを大幅に改善し、AI操作によるDDR帯域幅の占有率を大幅に削減します。 Horizon Tiangong Kaiwu AI開発プラットフォームによって補完され、アルゴリズムの開発と展開プロセスを大幅に簡素化し、AI製品の着陸コストを削減します。
ベルヌーイ2.0BPU構造では、DDR使用率が5倍に増加します。高度なISP処理アルゴリズムにより、ダイナミックで低照度の幅広いシーンで1200wピクセルの高品質画像を取得できます。 Rising Sun 3は、異なる解像度の4〜8個のカメラセンサー入力を同時に処理でき、さまざまな画像の後処理をサポートします。また、4K @ 60fpsのパフォーマンスでH.264 / H.265のエンコードとデコードをサポートします。
1
（日の出3）
Kanzhi K210 / K510
第1世代のチップKanzhiK210は、マシンビジョンタスク用に特別に設計されています。浮動小数点コンピューティング機能は1.28TFLOPSに達する可能性があり、これは組み込み分野の主流の開発オプションに匹敵します。同時に、その消費電力はわずか0.3Wであり、一般的な作業シナリオでの消費電力は1W未満であり、計算能力の単位あたりの消費電力は低く、非常に経済的な選択です。第二世代のカンジK510は、実際の着陸状況と顧客のフィードバックに応じてアップグレードされます。このIPコアは、ニューラルネットワークのさまざまなレベルでのコンピューティングリソース、ストレージ、および帯域幅の要件を実現し、データの再利用率を高め、チップの消費電力を削減するために再設計されています。
第二に、データ取得の速度と品質のために、KanzhiK510にはまったく新しいビジョンモジュールが装備されています。 K510は、第1世代のチップと比較して、フレームレートと周辺機器の点で大幅に最適化されています。テラバイトあたりのフレームレートは、業界をリードするレベルに達しています。さらに、K510は浮動小数点BF16計算もサポートします。これは、モデルの量子化に適さないシナリオで、同様の製品よりも優れています。
2
（ビデオサブシステムの概略図）
まとめ
長期的には、エッジAIチップは、エンタープライズIoTアプリケーションをまったく新しいレベルに引き上げます。 AIチップを搭載したスマートデバイスは、製造、建設、ロジスティクス、農業、エネルギーなどのさまざまな業界の価値分配方法を変えながら、既存の市場を拡大するのに役立ちます。
