【導讀】2026年的WAIC，比往年更加火熱。展館外，排隊入場的人流拐了幾個彎；展館內，108款AI芯片、261款大模型集中亮相，9位圖靈獎得主同臺分享。無論是論壇演講還是企業展示，一個核心議題始終貫穿全場——如何解決AI不斷增長的計算需求。
當下，大模型變小是一個很明顯的趨勢，AI也正在從云端走向邊緣不斷遷移。可以說，從汽車、機器人到各類AIoT設備，未來所有的終端都會具備本地AI智能，這對嵌入式AI計算能力提出了新的要求。
在今年WAIC上，安謀科技重點公布了面向邊緣AI的新產品進展，首次展示了“星辰300”AIoT原型平臺。該平臺采用“星辰”CPU、Helium矢量擴展以及Ethos NPU組成的異構計算架構，首代平臺基于STAR-MC2（即Cortex-M52）與Ethos-U55打造，在傳統MCU的基礎上引入AI算力，全面支持主流輕量級AI模型，為嵌入式設備增加本地AI推理能力。
目前，安謀科技已經在FPGA平臺完成“星辰300”系統驗證，并成功運行了人臉檢測、語音識別、關鍵詞喚醒以及圖像超分辨率等多個典型AI應用，為邊緣智能設備的落地提供了可驗證的技術基礎。現場，安謀科技“星辰”CPU產品線產品負責人朱曉鳴向EEWorld介紹了這套系統的技術細節和未來規劃。
小模型催生萬物AI時代
“模型規模不斷縮小，越來越多原本只能部署在數據中心的大模型能力，開始具備進入終端芯片的可能，萬物AI時代正逐漸從概念走向現實。”朱曉鳴在WAIC現場上向EEWorld強調道。
朱曉鳴分析，近年來，大模型推動了云端AI的快速發展，超節點、萬卡集群乃至十萬卡集群已經成為支撐大模型訓練和推理的重要基礎設施，AI也正在深刻改變人們的工作和生活方式。相比于云端算力的發展，真正與用戶日常生活緊密相關的，是數量龐大的端側設備。如何讓資源有限、算力受限的嵌入式設備具備AI能力，成為AI普及過程中必須解決的問題，這也是安謀科技關注的重點。
他指出，AI模型的發展趨勢正在為端側AI創造新的機會。過去，要達到業內普遍認為具備商用價值的MMIU Benchmark 60分門檻，往往需要數百B參數規模的大模型，這意味著AI只能運行在云端服務器上。但隨著算法持續演進，到2025年至2026年左右，僅約1B參數規模的模型便已經能夠達到這一商用基準。
解決AIoT痛點的三條路徑
朱曉鳴強調，過去的IoT強調的是“連接萬物”，而現在AIoT更強調“認知萬物”。AI時代端側設備開始具備認知能力、決策能力、自主運行能力，計算也不再完全依賴云端。
端側AI的發展主要受到四方面因素推動：感知類數據重心在邊端側、實時性和自主性應用快速增長、隱私和數據主權重視程度不斷提升、低功耗輕量級芯片技術持續進步。
進展飛速，但端側AI的發展始終受到資源約束。朱曉鳴表示，用戶希望終端設備擁有更強的推理能力、更長的上下文、更穩定的Always-On能力，但現實中，電池容量、散熱能力、CPU算力、存儲容量以及內存帶寬都存在天然限制。相比數據中心，端側設備面對的內存墻、帶寬墻問題更加突出，因此如何在有限資源下充分釋放AI性能，是端側芯片設計需要解決的核心課題。
針對這一挑戰，安謀科技提出了三條技術路徑：
第一條路徑是在CPU基礎上擴展AI能力，通過增加向量計算和張量計算相關指令，讓CPU同時具備通用計算與AI計算能力；
第二條路徑是在端側增加通用型小算力NPU，相比專用加速器，這類NPU具備更好的通用性和生態兼容能力，可以根據不同應用靈活與CPU進行耦合或解耦設計；
第三條路徑則是存內計算（Compute-in-Memory），對嵌入式芯片而言，SRAM是最常見的數據存儲介質，通過在SRAM內部完成部分計算，可以減少數據搬運，在特定算法場景下獲得更高的能效比。
安謀科技選擇圍繞CPU增強與通用NPU兩條路線，構建完整的端側AI計算體系。
基于上述技術體系，安謀科技推出了自主研發的“星辰（STAR）”CPU系列。目前STAR系列已經發布三代產品，第四代正在研發過程中。自第二代STAR MC2開始，產品已全面支持Helium技術，實現了Arm最新M系列CPU架構能力的持續傳承。
左手CPU：用M52換掉你的M33和M4
首先，在CPU方面，安謀科技擁有Cortex-M和Cortex-A兩個法寶。
Cortex-M系列CPU憑借極高的面積效率和能效比，長期應用于嵌入式領域。從Armv8.1-M架構開始，Arm首次引入Helium向量擴展指令集，為M系列CPU增加了高效的SIMD向量處理能力。在A系列處理器方面，Arm也針對IoT和邊緣計算推出了面向嵌入式應用優化的CPU產品，并支持SVE等向量技術，為端側提供更高效的標量與向量計算能力。
“星辰300”第一代平臺在MCU方面選擇了Cortex-M52。實際上，這款產品在早年就已經面世，先前在中國市場，它被稱為“星辰”STAR-MC2，是Arm和安謀科技研發工程團隊的合作產品。M52雖然名字前綴是Cortex-M，但其實根植于中國市場，有著中國市場基因，其中一些設計哲學也會更靠近國人習慣。
M52的整體架構與M33和M4基本一致，但其采用更強大的Arm v8.1-M架構，同事提供非常突出的AI性能。
與M33相比，M52的ML性能可提升多達5.6倍，DSP可提升多達2.7倍，能效提升了2.1倍。 不過，在面積方面，M52比M33大30%，比M55小23%。換言之，與M33相比，M52的硅面積增加了約10%，換來了大約5%的整體性能提升。由此，可以看出M52的定位，用更多面積換取更多AI性能，并以此劃分新產線。
根據Arm的定位，利用M52最終可以推出1～2美元的SoC。說白了，這個價格非常“小而美”，能夠覆蓋到更多低功耗產品。所以，我們可以看出安謀科技的野心，希望未來讓所有設備都能被AI所惠及。
當然，對于CPU，安謀科技的野心不止于此，在此次WAIC上，安謀科技展示了“星辰”STAR系列CPU IP的規劃，包括STAR-MC（開陽）和Merak（天璇）。
右手NPU：超強性能的Ethos-U55
其次，在NPU方面，Arm推出了Ethos系列NPU，它無疑是M核和A核的好搭檔。
朱曉鳴介紹，Ethos并不是追求極高算力，而是重點優化面積和功耗，為端側設備提供適度的AI加速能力，因此Ethos也被業界被稱為microNPU（微型神經網絡處理器），專門用于加速面積受限的嵌入式設備和物聯網設備中的機器學習推理。當CPU無法高效完成矩陣計算，或者被控制任務占滿時，Ethos能夠承擔AI推理任務，對CPU進行卸載（Offload），從而提升整體系統性能和能效。
Ethos NPU目前已經發展至三代，包括Ethos-U55、Ethos-U65和Ethos-U85，覆蓋64 GOPS至4 TOPS的算力范圍。
“星辰300”第一代平臺選擇了Ethos-U55這一型號產品。U55也是“小而美”的存在，對于成本敏感且功率受限的設備，U55可在約0.1 mm2的面積內將AI應用能耗降低高達90%。
具體看配置，在1 GHz下算力可達64 ~ 512 GOP/s，內部 SRAM約為18 ~ 50 KB，片上外部 SRAM支持KB級至多MB級，MAC 數（8×8）為32、64、128、256，主流網絡利用率最高 85%。
支持CNN、RNN/LSTM算法，面向未來的算子覆蓋大量計算密集型算子直接在 microNPU 上運行，例如：卷積（Convolution）、LSTM、RNN、池化（Pooling）、激活函數（Activation Functions）、基礎逐元素運算（Element-wise Functions），其他內核則會自動在緊密耦合的 Cortex-M 上，通過CMSIS-NN運行。
Helium：提升AI效率的另一個關鍵
值得注意的是，自STAR-MC2（Cortex-M52）開始，安謀科技全面采用Armv8.1-M架構，并引入了Helium技術。這是Armv8.1-M架構最重要的新增能力之一，也是其面向端側AI的重要技術基礎。
Helium專門針對AI、數字信號處理（DSP）和機器學習（ML）場景進行了優化，支持128-bit固定長度向量計算，并新增約150條面向向量計算、矩陣運算等AI負載的專用指令，可顯著提升機器學習和DSP應用性能，使低功耗嵌入式設備無需集成專用NPU，也能夠運行更多計算密集型的ML推理任務。
對于最受限且能效優先的嵌入式系統，歷史上解決方案是將Cortex處理器與SoC中的數字信號處理器（DSP）耦合，這增加了硬件和軟件設計的復雜性。Armv8.1-M配合Helium，通過提供實時控制代碼、機器學習和數字信號處理執行，消除了這些挑戰，同時不犧牲效率。
Helium在常見信號處理任務中可實現最高5倍的性能提升，在機器學習（ML）任務中可實現最高15倍的性能提升。在音頻編解碼測試中，相比傳統Cortex-M4處理器，集成Helium技術的Cortex-M52性能可提升約30%，Cortex-M55提升約50%，Cortex-M85提升約65%。而在機器學習測試中，Helium的優勢更加明顯，典型場景平均可獲得約3倍性能提升，部分測試案例甚至超過8倍。
更重要的是，Helium專為安全而設計，Helium與TrustZone合作，為實現符合平臺安全架構（PSA）的系統奠定堅實基礎。
一套系統的有機結合
那么，安謀科技如何讓CPU和NPU有機結合到一起？朱曉鳴認為，不同端側AI應用對應不同算力需求。對于簡單的圖像識別、語音檢測等任務，僅依靠CPU即可完成；但當應用擴展到實時視覺處理、多目標識別以及輕量級語言模型等復雜場景時，僅依賴CPU已經無法滿足性能需求，此時Ethos NPU可以提供最高4 TOPS算力支持，與CPU共同覆蓋絕大多數端側AI應用。
值得注意的是，為了實現M52所提供的ML和DSP性能，往往需要將CPU、DSP和NPU結合起來，但如此一來，在硬件準備就緒后，開發者需要使用三個不同的工具鏈、編譯器和調試器進行芯片的編寫、調試和代碼調整。
U55與Cortex-M采用統一工具鏈，簡化開發者使用流程；M52也同樣支持可以通過通用API使用單一語言進行編碼，并在應用程序的DSP和ML元素中實現所需的性能，無需了解處理器的具體硬件細節；Helium也可以簡化開發，開發者可以利用便捷的編程器模型和一站式工具鏈，減少開發工作量和成本。
對于“星辰300”的未來演進方向，朱曉鳴表示，“星辰”CPU+Helium+Ethos NPU的組合路徑，讓嵌入式設備在有限的功耗和算力下盡可能多的釋放AI計算潛力。
正如朱曉鳴在會議強調的：“隨著萬物AI時代的到來，端側設備對AI能力的需求將持續增長，但資源受限始終是嵌入式AI必須面對的現實。Helium通過增強CPU向量計算能力，大幅提升了音頻處理和機器學習性能；Ethos則以高能效、低面積成本，為端側提供矩陣計算加速能力。結合STAR CPU、Helium以及Ethos構建的異構計算平臺，安謀科技希望能夠為未來各類端側設備充分釋放AI性能，推動萬物AI真正走向普及。”
