Chip AI tiên tiến trong nước đổ bộ vào lĩnh vực trí tuệ nhân tạo
Chip AI cạnh
Ngày nay, do cú sốc dữ liệu gây ra bởi sự trỗi dậy của Internet vạn vật, việc xử lý dữ liệu cảm biến IoT quan trọng ngày càng gần hơn với vị trí ban đầu của dữ liệu, và nhu cầu về công nghệ máy học dựa trên điện toán biên. . Trong hai năm qua, chủ đề phát triển trí tuệ nhân tạo đã rất rõ ràng, đó là các ứng dụng hạ cánh. Trong số rất nhiều công nghệ AI, cho dù đó là ứng dụng thuật toán cấp cao hay sản phẩm, cuối cùng nó phụ thuộc vào sự đảm bảo của sức mạnh tính toán cơ bản, tức là chip AI.
Xu hướng đổ bộ thị trường Edge AI
Kể từ năm ngoái, thị trường AI tiên tiến đã bước vào giai đoạn bùng nổ và số lượng thiết bị đầu cuối AIoT đã vượt qua số lượng thiết bị đầu cuối của điện thoại thông minh. Từ quan điểm của các kịch bản hạ cánh của AI, hai khối lượng công việc chính của chip AI chủ yếu là đào tạo dữ liệu và tính toán suy luận. Trong số đó, tốc độ tăng trưởng thị phần điện toán suy luận đang bắt kịp thị trường đào tạo dữ liệu.
Giờ đây, một mô hình thuật toán chỉ có thể đạt được 2KB, nhưng hiệu suất cao hơn thuật toán mạng nơ-ron 4MB. Việc thu nhỏ các thuật toán học sâu cho thấy rằng mô hình siêu lớn được đại diện bởi GPT-3 không phù hợp với thị trường doanh nghiệp.
Trong khuôn khổ IoT mới, dữ liệu có thể được xử lý cục bộ trên thiết bị. Điều này đòi hỏi phải xem xét các điều kiện triển khai hạn chế của mô hình thuật toán trong các tình huống khác nhau trong thiết kế chip bên dưới, bao gồm việc phân bổ sức mạnh tính toán, mức tiêu thụ điện năng và diện tích silicon. Từ góc độ chi phí tiện ích của sức mạnh tính toán đơn vị, tính toán suy luận có thể thể hiện tốt hơn hướng hạ cánh theo yêu cầu của thị trường cấp doanh nghiệp.
Thử thách hạ cánh chip AI của Edge
Đầu tiên là các kịch bản của AI tiên tiến rất đa dạng và các kịch bản khác nhau có các yêu cầu khác nhau về mức tiêu thụ điện năng và hiệu suất của chip. Mặt khác, dung lượng thị trường của các kịch bản phân mảnh là không chắc chắn, và cần phải đạt được sự cân bằng giữa chi phí kỹ thuật và lợi ích của việc nghiên cứu và phát triển chip. Đây là bài kiểm tra mà tất cả các nhà sản xuất chip cần phải đối mặt.
Việc thu thập dữ liệu chất lượng cao cũng là một khó khăn lớn, đó là làm thế nào để lọc dữ liệu đáng tin cậy từ dữ liệu lớn. Dữ liệu lớn không có nghĩa là dữ liệu chất lượng cao. Việc thực hiện các tác vụ học sâu trên chip AI đòi hỏi sự tối ưu hóa liên tục của các cảm biến phần cứng.
Ngoài ra, đối với khách hàng truyền thống, ngoài chi phí mua sắm sản phẩm thông minh còn có chi phí sử dụng. Mức tiêu thụ điện năng của chip và liệu sản phẩm có dễ triển khai hay không đều ảnh hưởng đến việc triển khai và thúc đẩy AI. Cách các nhà sản xuất chip tùy chỉnh các chip với sức mạnh tính toán khác nhau theo các kịch bản khác nhau cũng là một điểm khó khăn trong liên kết đích.
Hiện tại, chip AI tiên tiến thiếu nền tảng phát triển có tính sẵn sàng cao, việc thiết kế các công cụ biên dịch phần mềm phức tạp và ngưỡng phát triển và sử dụng của người dùng cao, nhưng có thể thấy những điều này sẽ tiếp tục được cải thiện và lặp lại trong quá trình hạ cánh.
Chip AI cạnh thương mại
Sê-ri Sunburst
Đối với AIoT, Horizon đã ra mắt dòng chip AI cạnh Rising Sun. Thông qua những nỗ lực chung của thiết kế vi mạch và phần mềm, đã đạt được sự cân bằng giữa hiệu suất, điện năng tiêu thụ, tính linh hoạt và chi phí. Chip AI cạnh Rising Sun 2 sử dụng kiến ​​trúc BPU Bernoulli 1.0, có thể cung cấp sức mạnh tính toán tương đương 4TOPS và thực hiện phát hiện thời gian thực và nhận dạng chính xác nhiều loại mục tiêu. Rising Sun 2 tích hợp Dual-Cortex A53, có thể hỗ trợ hiệu quả nhiều tác vụ AI chính thống. Nó cũng hỗ trợ EMCC và SPI Flash.
Rising Sun 3 được ra mắt bởi Horizon, tập trung vào thế hệ chip AI cạnh AIoT mới với mức tiêu thụ điện năng thấp và hiệu suất cao. Nó tích hợp công cụ AI (BPU) kiến ​​trúc Bernoulli 2.0 tiên tiến nhất của Horizon, có thể cung cấp sức mạnh tính toán tương đương 5TOPS.
Kiến trúc BPU mới cải thiện đáng kể khả năng hỗ trợ cho kiến ​​trúc mạng CNN tiên tiến và giảm đáng kể tỷ lệ chiếm dụng băng thông DDR bởi các hoạt động của AI. Được bổ sung bởi nền tảng phát triển AI Horizon Tiangong Kaiwu, nó giúp đơn giản hóa đáng kể quá trình phát triển và triển khai thuật toán và giảm chi phí hạ cánh của các sản phẩm AI.
Theo cấu trúc Bernoulli 2.0 BPU, Khả năng sử dụng DDR được tăng lên 5 lần. Thuật toán xử lý ISP nâng cao giúp bạn có thể thu được hình ảnh chất lượng cao 1200 w pixel trong các cảnh động rộng và ánh sáng yếu. Rising Sun 3 có thể xử lý đồng thời 4 ~ 8 đầu vào của Cảm biến máy ảnh có độ phân giải khác nhau và hỗ trợ nhiều loại xử lý hậu kỳ hình ảnh. Nó cũng hỗ trợ mã hóa và giải mã H.264 / H.265 với hiệu suất 4K @ 60fps.
1
(Bình minh 3)
Kanzhi K210 / K510
Chip thế hệ đầu tiên Kanzhi K210 được thiết kế đặc biệt cho các tác vụ thị giác máy. Khả năng tính toán dấu chấm động có thể đạt 1.28TFLOPS, có thể so sánh với các tùy chọn phát triển chính thống trong lĩnh vực nhúng. Đồng thời, mức tiêu thụ điện năng của nó chỉ là 0,3W và mức tiêu thụ điện năng trong các tình huống làm việc điển hình là dưới 1W và mức tiêu thụ điện năng trên một đơn vị công suất tính toán thấp, đây là một sự lựa chọn rất kinh tế. Kanzhi K510 thế hệ thứ hai được nâng cấp theo tình hình hạ cánh thực tế và phản hồi của khách hàng. Lõi IP này được tái cấu trúc để đáp ứng các yêu cầu về tài nguyên máy tính, lưu trữ và băng thông ở các cấp độ khác nhau trong mạng nơ-ron, đồng thời để tăng tốc độ tái sử dụng dữ liệu và giảm mức tiêu thụ điện năng của chip.
Thứ hai, về tốc độ và chất lượng thu thập dữ liệu, Kanzhi K510 được trang bị một mô-đun tầm nhìn hoàn toàn mới. So với chip thế hệ đầu tiên, K510 đã được tối ưu rất nhiều về tốc độ khung hình và thiết bị ngoại vi. Tốc độ khung hình trên mỗi terabyte đã đạt đến mức hàng đầu trong ngành. Ngoài ra, K510 còn hỗ trợ tính toán BF16 dấu phẩy động, có ưu điểm hơn các sản phẩm cùng loại trong các kịch bản không phù hợp với lượng tử hóa mô hình.
2
(Sơ đồ sơ đồ của hệ thống con Video)
tóm lược
Về lâu dài, các chip AI tiên tiến sẽ nâng các ứng dụng IoT của doanh nghiệp lên một tầm cao mới. Các thiết bị thông minh được điều khiển bởi chip AI sẽ giúp mở rộng các thị trường hiện có đồng thời thay đổi phương thức phân phối giá trị của nhiều ngành khác nhau như sản xuất, xây dựng, hậu cần, nông nghiệp và năng lượng.