AI 與半導體
邊緣 AI 為何不能只比 TOPS？記憶體頻寬與功耗同樣關鍵
邊緣 AI 裝置的 TOPS 只代表理論運算能力之一；模型能否即時在相機、工業設備或 IoT 本機執行，還取決於邊緣 AI 記憶體的頻寬、容量、資料搬移效率與整體功耗。
周書豪2026年8月13日8 分鐘閱讀
洞見今日，影響未來。即時掌握台灣財經、國際趨勢、科技產業與生活議題。
AI 基礎建設、晶片、伺服器、雲端與台灣供應鏈。
邊緣 AI 裝置的 TOPS 只代表理論運算能力之一；模型能否即時在相機、工業設備或 IoT 本機執行，還取決於邊緣 AI 記憶體的頻寬、容量、資料搬移效率與整體功耗。
AI 伺服器的耗電不只來自 GPU。依 Micron 官方文章，在特定 AI 叢集配置與工作負載下，涵蓋 HBM、DRAM、SSD 與互連的記憶體子系統，最高可占總系統功耗 50%；但這是條件式公司估算，不能套用到所有機房與模型。
AMD 與 Rackspace 公布初始 30MW、預計分階段部署的企業 AI 運算合作。對醫療等受監管產業而言，重點不只在增加 GPU 或 CPU，而是從硬體隔離、資料邊界、服務權責到事件處理流程，一開始就能被治理與稽核。
AMD 與 Meta 規劃最多 6GW 的 AI 算力合作，首個 1GW 部署預計於 2026 年下半年開始出貨。這是跨 GPU、CPU、機櫃、軟體與資料中心電力的長期建置計畫，不能直接視為已完成營收。
Arm 官方說明，代理式 AI 的瓶頸不只在模型運算：當系統持續檢索、驗證、呼叫工具與安排多步驟任務時，CPU、記憶體與 I/O 需協調資料和服務，GPU則持續承擔主要加速運算。
Arm 以 AGI CPU 首度跨入自有量產資料中心晶片。這不只是在 AI 伺服器中增加一款 CPU，而是 Arm 從 IP 授權延伸到產品化的商業模式調整；Meta 的合作訊號值得注意，但相容性、導入規模與實際效能仍待後續驗證。
Intel 宣布完成 RAMP-C 計畫，代表 Intel 18A 與設計啟用、原型及先進封裝等可信任製造路徑已完成計畫階段的重要驗證；但這不等於所有客戶晶片都已進入高量產，仍須逐案通過設計與商業驗收。
Intel 與 Lens Technology 宣布探索玻璃基板、高密度互連與精密雷射製造在 AI 先進封裝的合作。玻璃可能協助改善大尺寸封裝的尺寸控制與翹曲管理，但公告尚未揭露量產規模、客戶或營收，現階段應視為製程與供應鏈驗證訊號。
ASML公司資料顯示，High NA EUV系統已有銷售紀錄；但設備售出不等於晶圓廠已量產。真正先被改變的，是曝光後端連動的光罩、光阻、量測、缺陷控制與整合驗證流程。
台積電依官方公告規劃在 2028 年導入 14 倍光罩尺寸 CoWoS 平台，目標是把更多大型運算晶粒與 HBM 放在同一封裝內。尺寸擴張可提高整合空間，但也把互連、散熱與良率控制推向更高難度，不能直接視為既定量產或市場成果。
台積電在北美技術論壇揭露 A13 與 N2U 路線。重點不只是製程名稱，而是如何透過設計技術協同最佳化，在速度、功耗與邏輯密度之間做取捨。N2U 的官方數據屬平台目標，不能直接套用到每一款晶片。
台積電 2026 年第二季營收與獲利創高，反映 AI 與高效能運算相關需求是重要觀察主線；但單季財務成果不能直接推算股價、未來報酬或所有供應鏈公司的營運表現。