義隆電子透過與中央研究院合作投入 YOLO 視覺辨識模型研發,走出一條以「軟硬體協同設計」為核心的 Edge AI 佈局路徑,為長期重硬體、輕軟體的台灣 IC 設計產業,提供一個具體可行的轉型案例。
文/林裕洋
從觸控螢幕控制晶片、觸控板模組等起家的義隆電子,近幾年積極切入 Edge AI、On-Device AI 領域,是全球相當知名 IC 設計及次系統供應商。該公司成立於 1994 年,營運總部設於台灣新竹科學園區,並在台灣中和、台南、高雄等地設有營運與研發中心,在中國、美國亦設有海外銷售與研發據點。
2018 年該公司參與科技部「業界出題,學界解題」計畫,透過贊助中研院投入 AI 影像辨識演算法——YOLO v4、v7、v9 模型,不僅得以順利切入 Edge AI 領域,更是為台灣 IC 設計產業投資開源軟體研發的代表案例。
義隆電子董事長兼總經理葉儀皓說,很多 AI 應用服務不能仰賴雲端運算完全解決,因為從資料上傳到雲端、回傳結果,回應至少超過三秒鐘,根本無法應付突發狀況。舉例來說,現今智慧車都會配備 Level 2 的 ADAS 技術,在車輛行駛過程中必須即時協助駕駛人分析周遭行車狀況,並且在可能發生危險狀況時立即介入,所以自然需要 Edge AI 技術協助。
AI 運算必須更靠近應用情境的現場,才能發揮預期效果。「2018 年我們與中研院攜手合作研發 YOLO 模型,並針對該模型特性開發最合適的 AI 晶片,讓我們得以實現 Edge AI、On-Device AI 的核心價值。」
投資軟體開發成本高,台灣 IC 產業卻步
在 AI 晶片運算能力大幅攀升下,帶動 AI 技術蓬勃發展,讓電動車、無人機、個人電腦等裝置,具備在端點處理複雜運算能力,以便能為用戶提供自動駕駛、智慧安控與醫療診斷等最精準服務,引爆邊緣 AI 市場快速成長。
根據 Research and Markets 公布研究報告指出,Edge AI 市場 2025 年約為 3.74 億美元,預估 2032 年將成長到 18.44 億美元,CAGR 為 25.6%。IMARC Group 則指出,2024 年影像辨識市場規模約 47.14 億美元,預估 2033 年將成長 161.43 億美元。
[ 加入 CIO Taiwan 官方 LINE 、 Facebook 與 LinkedIn,與全球CIO同步獲取精華見解 ]
身為全球 AI 晶片市場霸主的 NVIDIA,很早就推出 NVIDIA Jetson 架構,搭配各種開發套件,讓合作夥伴能快速推出各種 Edge AI 裝置。儘管該架構技術成熟、開發也方便,但也有成本高、耗電量高等問題,加上更會面臨同樣以相同架構開發的競爭對手,難保不會陷入價格戰。
為此,許多台灣 IC 設計業者開始針對不同邊緣裝置推出合適的 AI 邊緣運算晶片(NPU,Neural Processing Unit),主打低耗電、價格合宜等特色,搭配自家技術支援服務,全力搶攻此市場大餅。
台灣 IC 設計業優勢在於「成本控制」、「整合能力」、「快速應變」等特性,只是長期存在重硬體、輕軟體的思維,多數業者考量到從零開發一套基礎框架,存在研發週期過長、投資成本高等問題,所以通常是開發能支援 YOLO、TensorFlow Lite 或 ONNX 等成熟開源模型的通用型 NPU。然而受限於工程師對開源軟體熟悉程度不足,加上技術能力限制,僅能針對搭配的開源軟體模型進行量化或參數調整等工作,無法徹底發揮 AI 晶片效能。
專為特定模型設計,NPU 效能最大化
雖然台灣 IC 設計產業直接使用成熟開源模型,能縮短 NPU 產品上市時間,但是背後也有不少難以克服的痛點:
首先,市面上開源模型架構並非為特定晶片量身打造,導致晶片內部運算單元利用率難以最佳化,加上因資料會頻繁移動導致大量電力被消耗;其次,開源軟體底層架構無法與通用型 NPU 運算單元百分百搭配,勢必會有不少無效運算出現,最終導致寶貴 AI 算力白白被浪費;第三,NPU 為支撐未經優化的開源模型,通常需要更高算力的通用型運算模組,也導致 PCB 電路板面積大、發熱量高,因此得搭配更複雜的散熱架構。
最後,受限於通用模型的預訓練資料與架構,邊緣裝置在面對豪雨、濃霧、逆光等極端環境時,很難單靠調參提升影像的辨識準確率,以至於存在誤判風險狀況。
熟知此狀況的義隆電子,從 2018 年首度贊助中研院投入 AI 影像辨識演算法——YOLO v4,順利達成強化義隆電子魚眼攝影鏡頭在智慧交通領域的偵測能力。由於成效相當不錯,所以進一步針對 YOLO v4 特性設計專屬的 NPU,並提供相關資源與 NPU 參數,協助中研院持續開發 YOLO v7、v9 模型。
不只如此,中研院進一步針對義隆電子 NPU 特性,反向開發專屬的「GElanNet」系列模型,正好可解決前述傳統 NPU 等四大問題,讓 AI 算力發揮最大效益。
在軟、硬體完成最佳化下,雖然義隆電子 NPU 的 AI 算力僅為 4 TOPS,但是根據該公司測試結果顯示,在實際環境中影像偵測能力與 Jetson Xavier NX 晶片的 21 TOPS 差不多,但是電力消耗僅需 20%,更適合邊緣 AI 裝置使用。這種能效比落差,在無人機或電池供電的邊緣端設備上展現優勢,讓義隆電子順利切入智慧交通、無人機等領域。
IT 扮演幕後功臣,支撐專案落地
在義隆電子與中央研究院合作開發 YOLO 視覺辨識模型的過程中,儘管 IT 部門並非直接參與模型設計或參數調校,不過卻在整個專案中扮演基礎支撐者,確保 AI 研發成果能順利落地,並轉化為可量產、可維運,且符合企業治理需求等規範。
首先,在 AI 開發環境方面,IT 需規劃穩定且可擴充的算力資源,包括 GPU 伺服器、開發框架與系統環境一致性,避免因環境差異影響研發效率,確保跨團隊合作時模型能順利訓練與測試。
其次,YOLO 屬於高度依賴資料品質的模型,IT 部門必須建立完善的資料管理與治理機制,涵蓋影像資料的儲存、版本控管、標註流程與權限設定,同時確保資料來源可追蹤、可稽核,並符合企業內部的資安與法規要求。這不僅影響模型準確度,也直接關係到客戶信任與後續商業應用。
[ 推薦文章:2026 IT 預算執行的五大關鍵 ]
除此之外,當模型從研究階段走向實際產品或生產流程時,IT 扮演著「從 PoC 到量產」的橋樑角色。無論是將 YOLO 模型整合進內部測試平台、生產線視覺檢測系統,或與 MES、品保系統串接,皆需要 IT 建立穩定的部署與維運架構,讓 AI 不只是展示成果,而是成為公司長期可用的核心能力。最後,在高度重視智慧財產與供應鏈信任的半導體產業中,IT 也負責模型、資料與合作環境的資安防護,確保研發成果不外流。
結語:軟硬整合,建立競爭壁壘
NVIDIA Jetson 架構擁有難以被撼動的強大生態系,也是多數人最熟悉的開發平台。然而從義隆電子透過贊助中研院開發 YOLO 模型的案例,台灣 IC 產業若納入「軟硬體協同設計」思維,在晶片設計階段就納入特定軟體架構的優化考量,也能在全球邊緣 AI 市場中佔有一席之地,建立競爭對手難以跨越的壁壘。
(本文授權非營利轉載,請註明出處:CIO Taiwan)














