AIPC 的優勢:電腦運算突破互聯網限制
AIPC 最直接可理解為「本身就具備生成式 AI 功能的電腦」,利用 AI 自我成長,不斷擴增、優化 PC 伺服器的運算工作。
現在市面上盛行的生成式 AI,例如 Chat GPT 等,需要將人類輸入的指令回傳至 Chat GPT 的巨型伺服器進行運算,在將生成的回答傳到人正在使用的這台電腦,顯示出 Chat GPT 回答使用者的問題。對終端產品(例如一台筆電或手機)使用者來說,AIPC 可以在「不上雲端網路、不連 WiFi」的狀態下,就利用電腦設備本身,做查詢整合資料、自動生成文字影像、音樂編程……等等常見的生成式 AI 功能。
而且,AIPC 是透過使用者持續互動養成,而不斷自我優化的個人化 AI,不論回答問題的精準度、速度、自主延伸工作的人性化程度,預期都會更高於現在的 Siri、Ok Google 等連結互聯網、巨型終端伺服器的 AI 助理。
目前,雖然 AIPC 還處於 Copilot 階段,無法做到一台終端產品全靠 AI 完成各種使用功能;但全球大廠都已進攻 AIPC 領域,投資相關產品研發;包括 Intel、Microsoft、Nvidia、Qualcomm、AMD 等。眾廠家於今年度台灣舉辦的《Computex 台北國際電腦展》也將以 AIPC 作為此次展會的重點。估計到 2025 年後,完整的 AIPC 將會大量落地至商用,未來成長大有可期。
AIPC 熱潮 圖片來源:經濟日報
AIPC 落地市場的好處?
對一般使用者的吸引力
若企業或個人使用者想用 AI 應用程式處理工作(例如設計一個網站),不必將資料上傳或上網找格式,直接在與 AI 的對話中就能處理規格、結構、畫出 Sitpmap 等等。一台電腦就像一個真人助手,可以大量簡化使用者的工作,換成給予指令讓電腦自己去執行就好了。
AIPC 還能通過語音、眨眼等方式,讓人機交流的方式更多元,服務例如行動不便的使用者,降低使用門檻、也更加個人化。
對 B2B 市場的商機
雖然現今 AIPC 尚未落地,但全世界軟硬體相關廠商都表示樂觀。首先,帶動終端產品消費者的銷售熱潮是肯定的,手機電腦、穿戴裝置、實境體驗服務等,消費者能獲得不受環境限制、更大量且穩定的運算服務。刺激娛樂業、民生用品製造、教育、旅遊、醫療服務照護........等各種產業進一步優化。
B2B 領域中,AIPC 落地可以帶動更巨大的商機。例如生技產業,有 AI 病理學影像平台《Paige.ai》與微軟合作,利用 AI 自主學習優化的特性,聯合開發癌症與病理學大型機器學習模型。還有例如軍事產業這類比較資訊封閉、資安掛帥的領域,AIPC 能在與使用者協作過程中,降低對互聯網的依賴,規避資安外洩風險;而且使用上,比互聯網更超越物理環境限制,能潛入更深的海床、無訊號的山壁或太空之中等等。
AIPC 的 B2B 市場商機 圖片來源:華視新聞
製造 AIPC,可以拆解出一整條 MIT 供應鏈:
全球延燒的 AIPC 研發熱潮,台灣可說是一大贏家。眾所皆知,台灣在晶片設計、製造、包裝,整個全球 IC 生態系統中,扮演著關鍵角色。此外,台灣在 AIPC 研發競賽中,也取得重要的成績,例如晶片封裝製程技術革新,使晶片能夠更小型化、更高效率;還有其他各種與 AIPC 相關的台灣半導體產業,涵蓋了一整條產業鏈,為台灣帶動巨大的產值。
以下,是《天下雜誌》整理眾多在 AIPC 供應鏈上發揮的國際大廠,不乏 MIT 企業、和台灣 OEM/OEM 品牌參與其中:
AIPC 供應鏈大廠一次看
AIPC 供應鏈 | 相關廠商 |
晶片設計 | 英特爾、高通、輝達、AMD、聯發科 |
高速傳輸 | 譜瑞、祥碩 |
晶片代工封測 | 台積電、日月光 |
記憶體 | 三星、美光、海力士、華邦電、南亞科 |
ABF 載板 | 欣興、景碩、南電 |
電源模組 | 新普 |
電源 | 台達、光寶 |
散熱 | 雙鴻、奇鈜 |
硬體組裝 | 廣達、緯創、鴻海、仁寶、英業達、和碩 |
PC品牌廠 | 宏碁、華碩、聯想、惠普、戴爾、技嘉、微星 |
作業系統 | 微軟 |
來源:天下雜誌
而且,光是「AI 晶片」這一塊,就能區分出多種分工,包含的廠商有這些:
種類 | 公司 (在此舉常見的為例) |
GPU | 輝達、超微、英特爾 |
CPU | 英特爾、超微 |
DRAM | 三星、SK、美光 |
晶片設計服務 | 創意、世芯、智原 |
遠端伺服器管理晶片 | 信驊、新唐 |
高速訊號傳輸介面晶片 | 譜瑞 |
晶圓代工 | 台積電 |
封測 | 日月光 |
來源:天下雜誌
AIPC 運算技術革新,與 PCIe 6.0 協定相輔相成
AIPC 需要處理的數據運算、傳輸量都比一般的 CPU—Device 之間更巨大;AI 晶片要將最多運算元件和記憶體壓縮到單一晶片的架構中,為了突破這點,其核心技術在於 AI 晶片的算法與過往的晶片不同。
根據〈Synopsys:為什麼 AI 需要新的晶片架構〉一文見解:目前 AI 晶片的設計技術,可以降低 15~20% 的時脈速度、將密度提高 15~30%;並透過即時介面,提供高速、低延遲的資料連接,讓 AI 能夠在幾分鐘之內完成訓練(也就是指與使用者的人機互動)。在記憶體方面,AI 晶片也需要自有的記憶體元件以快速存取,開發商開始將記憶體放置在硬體的實際計算元件內部,以加快處理時間、並同時保護資料穩定性及安全性。
AIPC 對資訊吞吐量的要求,促使供應鏈廠商們,紛紛積極擁抱目前最高頻寬的 PCIe 6.0 協定技術;當 AIPC 增強 CPU 的運算能力時,就需要 PCIe 協定,則充當 CPU 之間的橋樑。對於 AIPC 來說,PCIe 6.0 提供以下這些優勢:
64 GT/s 原始資料速率
前向糾錯(FEC)技術,排除誤碼率
新的低功耗模式 L0p,提高電源效率
高效能完整性和資料加密(IDE, Integrity and Data Encryption)
PICe 6.0 通訊方式 來源:Synopsys
PCIe 6.0 能滿足 AIPC 研發對於高效能、高頻寬的需求;相對地,整體產業鏈的積極投入,大幅提升了 PCIe 6.0 近兩年的全球普及率,截至 2024 四月, PCIe 7.0 的規範也已經來到 0.5 版本,未來各界仍十分看好PCIe技術發展。
PCIe 6.0 將成為主流,來回應 AIPC 成長
資策會產業情報研究所(MIC)預估指出, 2024 年全球 AIPC 滲透率約 15.7%,未來幾年滲透率將一路攀升,預測在 2027 年達到 65.9%,屆時新售出的電腦將有 2/3 會是 AIPC;同時相關傳輸設備、處理器和軟體上的迭代優化,也將迅速席捲市場。除了市售終端產品以外,AIPC 應用的範圍也會不斷被新開發,如同前段所述的 B2B 商機,AI 在各個領域的性能要求、技術價值都將提升。
PCIe 6.0 協定兼具速度、傳輸量、高效的功耗管理能力;同時能連結不同類型的處理器或運算資源,例如結合 CPU 和 GPU、FPGA、AI 加速器等,以共同完成運算任務。這正好回應了 AIPC 的研發需求也促使 PCIe 6.0 將成為 IC 設計生態的下一個主流界面,包含用於 CPU 處理器、AI 加速卡、新的 CXL 記憶體擴展器(CXL Memory Expander)、固態硬碟(SSD)儲存系統、周邊晶片組、主機板傳輸接口......等等;而在 AI 發展的機器學習等歷程中,PCIe 6.0 將成為數據傳輸標準的基本指標,進一步推動 AI 在 IC 方面的發展;AIPC 和 PCIe 協定成為彼此相輔相成的循環。
PICe 6.0 來源:PCI-SIG
〈PCIe 6.0 協定測試〉會是開發人員的重點
PCIe 6.0 之所以更方便,是因為採用 4 級脈衝振幅調變(PAM4)訊號傳輸,在高速乙太網界面 Gigabit Ethernet 的開發使用上,這已經行之有年。然而,對於PCIe 的開發者來說,仍是一個十分陌生的新領域;其牽涉到的前向糾錯(FEC)、新的 Flit(流量控制單元)編碼模式,對於研發人員設計以及驗證都是十分具挑戰性。
匯流排測試研發專家《VIAVI Solutions》所設計的〈Xgig® 6P16/6P4〉為 16 /4 通道的 PCIe 6.0 協定分析/驗證平台。為 Xgig PCIe 系列引入 64 GT/s 高速測試能力,提供精確可重複控制,適用於深入的協定通訊問題分析和故障排除。
其支援 PCIe 6.0 FLIT 模式、非 FLIT 模式、CXL 3.0 和 NVMe,協定訓練器可模擬來源端(RC 或 Host)或目的端(EP 或 Device)設備操作,允許即時定義、傳輸和錯誤注入;讓使用者更精密地在研發產品過程中,確保穩定高速的傳輸效能。
Comments