Search
Inside未來日在上週五舉行，
找了工業局呂局長、震旦雲總經理林進寶、
先知科技高季安，以及耐能CEO劉峻誠演講或研討，
這篇是劉峻成演講的內容摘要，
「企業若能採用專為神經網路設計的處理器 NPU，
跟 CPU、GPU 相比單位功耗表現有等比級數上的差別，
也將會有效壓低產業成本，
提升運算效率創造更高的 C/P 值。」
因應邊緣運算的趨勢，
相對應的AI晶片成為顯學，
也祝福耐能接下來能夠成功。
＃人工智慧
中華亞太智慧物聯發展協會協助企業數位轉型 https://www.apac-aiot.org/
https://www.inside.com.tw/article/24945-inside-aiot-kneron
#2021INSIDE未來日｜要發揮 AI+IoT 強大縱效潛力，邊緣運算與晶片絕對是不可不討論的重要環節。
台灣 AI 晶片新創耐能，致力於終端 AI 晶片設計、軟硬整合。其共同創辦人兼執行長劉峻誠表示，企業若能採用專為神經網路設計的處理器 NPU，跟 CPU、GPU 相比單位功耗表現有等比級數上的差別，也將會有效壓低產業成本。
究竟他們是如何結合 AI 晶片、邊緣運算與雲端來提升效能呢？
#AI晶片 #耐能 #邊緣運算
邊緣AI 2026將成 IoT晶片發展核心
04:102021/05/02 工商時報 集邦科技資深分析師曾伯楷
隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求，AI與IoT結合已是現在進行式。在AI晶片助益下，IoT邊緣與終端裝置可透過機器學習或深度學習等技術加值，同時帶出無延遲、低成本、高隱私等優勢，顯示出AI晶片的重要性。預估全球AI晶片產值至2025年將達720億美元。
與此同時，邊緣運算透過AI使終端設備於運行上更加智慧，不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢，並進一步使系統具有主動性與智慧性。若以場景角度切入，邊緣AI相較傳統邊緣運算，其主要帶來的效益包括數據處理過濾和邊緣智慧分析，此也將成為兩技術持續結合的動能。
一、MCU、連接晶片、AI晶片為IoT晶片產業鏈三大關鍵零組件。 物聯網在傳統上多以感知層、網路層、系統層與應用層作為架構堆疊，主要經濟效益雖來自應用層的智慧情境發展，然感知層所需的產業鏈之上游零組件仍是支撐終端場景運作重要核心，其中又以微控制器（MCU）、連接晶片與AI晶片最關鍵。
MCU方面，建立在高效能、低功耗與高整合發展主軸下，IoT MCU現行從通用MCU演化成特定為IoT應用或場景所打造，如2021年3月STMicroelectronics推出新一代超低功耗微控制器STM32U5系列，可用於穿戴裝置與個人醫療設備；Silicon Labs同期推出PG22 32位元MCU，主打空間受限且須低功耗的工業應用、Renesas RA4M2 MCU著眼IoT邊緣運用等。
連接晶片方面，受物聯網設備連線技術與標準各異影響，通訊成物聯網晶片中相當重要的一環，從蜂巢式的4G、5G、LTE-M、NB-IoT，到非蜂巢式的LoRa、Sigfox、Wi-Fi、Wi-SUN等，從智慧城市、工廠、家庭至零售店面皆被廣泛運用，範圍擴及至太空，如2020年下旬聯發科與國際航海衛星通訊公司（Inmarsat）合作，成功以NB-IoT晶片完成全球首次5G物聯網高軌衛星資料傳輸測試。AI晶片方面，隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求，AI與IoT結合已是現在進行式。此外，Microsoft在其2021年3月舉辦的年度技術盛會Ignite 2021上指出，2022年邊緣運算市場規模將達到67.2億美元，與深度學習晶片市場相當吻合，亦提及市場預估至2025年全球深度學習晶片市場將有望達663億美元。同時，Microsoft認為至2026年全球AI晶片有3／4將為邊緣運算所用，顯示出IoT晶片於邊緣運算的發展將成未來廠商重要布局之一。
二、邊緣AI效益顯著，成長動能仰賴數據處理過濾、邊緣智慧分析。
首先，從邊緣運算定義來看，市場雖已談論數年但定義與類別始終未統一，原因是各廠商於邊緣託管工作的目的不盡相同。例如對電信商而言，初步處理數據的微型數據中心是其邊緣端，而對製造商來說邊緣裝置可能是生產線的感測器，此也造就邊緣運算的分類方式略有出入。另外，例如IBM有雲端邊緣、IoT邊緣與行動邊緣的類別，ARM多將邊緣視為雲端與終端間的伺服器等裝置，亦有個人邊緣、業務邊緣、多雲邊緣等類型。
其次，從邊緣運算類別來看，現行分類趨勢和研究方式尚有以數據產生源為核心，藉由設備與數據源的物理距離作為分類參考，並將其分為厚邊緣（Thick Edge）、薄邊緣（Thin Edge）與微邊緣（Micro Edge）。厚邊緣多用以表示處理高數據流量的計算資源，並配有高階CPU、GPU等，例如數據中心的數據儲存與分析；薄邊緣則包含網路設備、工業電腦等以整合數據為主要目的，除了配有中間處理器外，也不乏GPU、ASIC等AI晶片；微邊源因與數據源幾無距離，故常被歸類為生成數據的設備或感測器，計算資源雖較為匱乏，但也可因AI晶片發揮更大效益。
整體而言，邊緣運算透過AI使終端設備於運行上更加智慧，不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢，並進一步使系統具有主動性與智慧性，在平台管理、工作量合併與分布式應用也更有彈性。若以場景角度切入，邊緣AI相較傳統邊緣運算，其主要帶來的效益提升包括數據處理過濾和邊緣智慧分析，此也將成為兩技術持續結合的動能。
數據處理與邊緣分析於過往邊緣運算時已可做到，並在AI加值下進一步提升效益。以前者而言，數據透過智慧邊緣計算資源可在邊緣處預先處理數據，且僅將相關資訊發送至雲端，從而減少數據傳輸和儲存成本；從邊緣分析效能來看，過往多數邊緣運算資源處理能力有限，運行功能時往往較為單一，而邊緣智慧分析透過AI晶片賦能，進而能執行更為繁複、低延遲與高數據吞吐量的作業。
三、全球大廠搶攻IoT晶片市場，中國加重AI晶片發展力道。
IoT晶片於邊緣運算所產生的效益，使其成為廠商重要策略布局領域，雲端大廠如Google、AWS等紛紛投身晶片自製；傳統晶片大廠如ARM最新產品即鎖定邊緣AI於攝影機和火車的辨識應用、Intel亦投資1.3億美元於十餘家新創AI晶片設計廠商，NXP Semiconductors、Silicon Labs、ST則陸續在其MCU或SoC添加邊緣AI功能。此外，新創企業Halio、EdgeQ、Graphcore皆以AI晶片為主打。整體而言，若以區域來看，歐美大廠聚焦加速AI運算效能，但最積極發展AI晶片產業的則屬產官學三方皆支持的?心，代表性廠商包含地平線、華為旗下海思等代表；台灣則由產業聯盟領頭與聯發科和耐能等重要廠商。
（一）中國產官學助力，2023年AI晶片產值估將逼近35億美元。
AI產業是中國發展重點之一，其輔助政策如2017年《新一代人工智能發展規劃》、《2019年促進人工智能和實體經濟深度融合》，至「十四五」與「新基建」，都將AI視為未來關鍵國家競爭力。各大廠也因此陸續跟進，如百度發布AI新基建版圖著眼智慧雲伺服器；阿里宣布未來至2023年將圍繞作業系統、晶片、網路等研發和建設，騰訊則聚焦區塊鏈、超算中心等領域。
產官學研加重AI的發展力道也反映於AI晶片上，ASIC（特殊應用基體電路）廠商比比皆是。其中，AI晶片布局物聯網領域的廠商眾多，包含瑞芯微、雲天勵飛、平頭哥半導體、全志科技等，主要面向雲端運算、行動通訊、物聯網與自動駕駛四大領域。其中，物聯網領域進一步聚焦於智慧家庭、智慧交通、智慧零售與智慧安防部分，執行語音、圖像、人臉與行為辨識等應用。若進一步聚焦於邊緣運算領域，則以地平線、寒武紀、華為海思、比特大陸、鯤雲科技等最為積極。整體而言，TrendForce預估，中國AI晶片市場有望從2019年13億美元增長至2023年近35億美元。
綜觀中國AI晶片發展，雖有中美貿易摩擦導致設計工具、製造封測等環節較受限制，且開發成本始終居高不下，然而，藉由產官合作以及中國內需市場需求動能，仍能有效支撐該產業成長。若以邊緣運算來看，鑒於AIoT市場持續茁壯，特定應用的ASIC將是重要發展趨勢，尤以汽車、城市與製造業來看，相關場景應用如人身語音行為辨識、人車流量辨識、機器視覺等需求皆相當明朗，預期也將成廠商中長期發展主軸。
（二）台灣人工智慧晶片聯盟積極整合，監控與機器人為邊緣AI應用兩大方向。
台灣廠商聯發科和耐能同樣結合邊緣運算與AI兩技術作策略布局，就整體產業而言，2019年由聯發科、聯詠、聯電、日月光、華碩、研揚等廠商共同組成的台灣人工智慧晶片聯盟（AITA）發展迄今已越趨成形，各關鍵技術委員會（SIG）亦訂定短中長期發展目標。
邊緣AI發展則由AI系統應用SIG推動，其第一階段至2020年著眼半通用AI晶片發展與智慧監控系統應用平台的裝置端推論，2021年則聚焦以裝置端學習系統參考設計，以及軟硬體發展平台的裝置端學習為主，並規劃在2023年能以多功能機器人為主體，發展多感知人工智慧和智慧機器人AI晶片發展平台。
換言之，藉由業界在智慧裝置、系統應用與AI晶片的串聯，短期至2022年都將是台灣邊緣AI大力發展階段，並朝智慧監控、多功能機器人深化，預期此也將帶動系統整合的凌群、博遠，終端設備的奇偶、晶睿碩，以及晶片設計的聯發科、瑞昱等邊緣AI商機；但相較中國廣大內需市場，台灣仍需藉由打造讓晶片廠和系統商充分整合的互補平台，以利降低晶片開發成本，並從其中尋求更多可供切入的大廠產業鏈。
附圖：2019～2023年中國AI晶片市場推估
AI於IOT流程主要著眼數據處理與分析之效
台灣人工智慧晶片聯盟系統應用SIG發展架構
資料來源：https://www.chinatimes.com/newspapers/20210502000153-260511?fbclid=IwAR0zlvUv8MKpcHrbgpa3xRAFaQXaxZuep9TCeZ-75myILNjuDV4SWEIdKZ8&chdtv
本集特別感謝耐能智慧（Kneron）創辦人劉峻誠參與討論。
矽谷 OpenAI 推出的 GPT-3 是一個文字產生器，能寫文章、寫程式、回覆 email，甚至用牛頓的語言教導萬有引力。其打開了人們對人工智慧的想像力，也讓人好奇人工智慧的極致。
同時，生活中無數的「小場景」也需要另一種人工智慧，例如智慧門鎖、臉孔辨識、智慧水錶、居家安全等。劉峻誠所創立的耐能科技便是在離線、平價、低耗能、可重組的人工智慧領域的佼佼者。就像 ARM 從手機崛起，甚至挑戰英特爾一般；耐能要如何從邊緣運算崛起，挑戰稱霸雲端人工智慧的科技巨頭？
聽眾優惠:point_right:http://bit.ly/2DE3GBE
（在優惠碼欄位填寫 podcast ，用 199 元收看全部科技島讀內容）
----------
YouTube 更新比較慢，歡迎你到這裡看最新的科技島讀 Podcast： http://bit.ly/31Gjmis
#人工智慧#AI平台#AI人才
須於 耐能 提供的AI模型框架中，選擇符合自己主題的模型框架來進行AI訓練。 ... 第26屆InnoServe資服競賽線上說明會─指定專題類│ 耐能邊緣運算 AI運用組. ... <看更多>
在耐能邊緣運算這個討論中，有超過5篇Ptt貼文，作者tim315121也提到最近在玩Melvor Idle 這種類型真適合我，沒有抽角沒有戰力pvp 就只是要單純幾小時的掛機後回來收成 ... ... <看更多>
耐能 邊緣運算 在 InnoServe資服創新競賽粉絲團 - Facebook 的推薦與評價
InnopServe EP06 | 資服競賽主題介紹ft.耐能邊緣運算AI運用組耐能邊緣運算AI運用組的YT影片在這裡： https://youtu.be/L5VHW9OrlZ8 (加速棒介紹) ... ... <看更多>