現今是生成對抗網路（GAN）大為風行的時代，人工智慧領域中的語言模型GPT（Generative Pre-trained Transformer）已獲得廣泛關注和應用。由於GPT模型需要龐大的計算資源，計算能力供應不足的問題也隨之出現。隨著人工智慧模型（如GPT）的規模和複雜性不斷擴大，對計算能力的需求也日益增加。然而，傳統的計算設備和基礎設施難以滿足這種快速增長的需求，因此計算能力短缺的問題浮現。
與此同時，人們也關注資料中心高性能計算（HPC）的功率效率。據稱，共同封裝光學元件（CPO）能夠降低能源消耗約30％，同時將每個位元的成本降低約40％。該技術指的是將光學元件直接封裝在處理器晶片旁邊，以提高資料中心的能效。然而，這樣的技術是否已成熟呢？
目前，在技術層面上已經有了共同封裝光學元件的突破，但在實際應用上仍面臨一些挑戰。例如，如何實現高度整合和互連，以及如何解決散熱和光訊號互干擾等問題，這些都需要更多的研究和解決方案。儘管共封裝光學技術具有巨大潛力，能夠提升資料中心的效能，但目前仍需要更多的努力和時間才能實現廣泛的應用。
共同封裝光學元件 (CPO) 技術： 解決計算能力短缺和能源效率的新希望
共同封裝光學元件（CPO，Co-packaged Optics）市場具有相當大的發展潛力，並受到廣泛的產業關注。隨著資料中心和高性能計算（HPC）等領域對計算能力和能源效率的要求不斷提高，CPO技術被視為有前景的解決方案。
近年來，由於資料量的爆炸性增長和人工智慧應用的普及，網路設備的功耗和散熱問題變得越來越突出，CPO技術的引入為解決這些問題提供了新的途徑。共同封裝元件的結構設計使交換晶片和光通訊引擎能夠更緊密地結合在一起，降低能源消耗和散熱需求，同時提高設備的性能和效率。
在光互連論壇（OIF）的主導下，許多業界廠商共同推出了近似CPO元件和CPO技術，為市場帶來了更多的選擇和可能性。這些技術的應用範圍涵蓋資料中心、雲端計算、通訊網路等多個領域，對於提升網路設備的性能、節能和可靠性具有重要意義。
隨著資料中心和HPC產業（如科學研究、工程模擬、天氣預報、基因組科學、金融分析等領域）對高效能計算和能源效率的需求不斷增長，CPO市場有望快速發展。然而，這一技術仍需面對一些挑戰，如成本、製程技術和標準化等方面。隨著技術的成熟和應用案例的增多，CPO有望成為未來網路設備市場的重要趨勢之一。
資料來源：Yole Group
根據Yole的預測，隨著人工智能（AI）的快速發展，數據通訊光學元件市場正在迅速成長；從2022年到2028年，其年複合增長率（CAGR）預計為24％，而從2028年到2033年預計為80％；預計收入將從2022年的3800萬美元增長到2033年的26億美元；這主要得益於AI/ML (Artificial Intelligence/Machine Learning) 設備中資料移動的快速增長，2022年至2033年的CAGR（Compound Annual Growth Rate）預計為46％，特別是共同封裝光學元件（CPO），其市場預計從2022年的600萬美元增長到2033年的2.87億美元，CAGR為69％；這些數據顯示了數據通訊光學元件在未來的重要性和潛力。
資料來源：Yole Group
2023年，GPT 的出現引起了驅動力和應用模式的轉變，從傳統的聯網應用轉變為更加著重於處理大量資料的AI/ML應用，隨著資料處理需求的不斷成長，面臨高頻寬需求、每機架高功率預算 (管理者需要在設計和配置機架時確保合理的功率分配)、以及HPC新型光鏈路的挑戰；在從聯網到大數據處理（如AI/ML機器學習）的模式轉變中，預計到2024年將推出首個將光學I/O（Input/Output）技術，整合到設備和系統的封裝層面，而CPO技術的大規模交貨期間，預計將在2029年後實現；這項技術將在光學通訊和高性能計算領域中發揮重要作用，帶來更高的效能和可靠性。
圖片來源：Yole Group
2023年：驅動力與應用模式的轉型之年
CPO：光子封裝技術在高性能計算中的應用和前景
CPO因其在高性能計算的功效方面引起了廣泛關注，然而，近期的不利宏觀經濟環境，使得大多數網路應用中的CPO支持者，暫停了對CPO項目的支援，這主要源於可插拔產品的工業生態系統需要進一步完善，以及可插拔尺寸的整合電光調變器 (Integration of electro-optic modulators) 可以在不改變現有網路系統設計的情況下實現所需的低功耗，這為CPO的市場引入帶來了一些限制。
然而，Yole Intelligence光學和傳感部門的高級分析師Martin Vallo博士指出，針對所需的電密度、光密度、熱管理、和能源效率等方面的挑戰，共同封裝技術基於矽光子學技術平台能夠克服這些限制，並提供支援6.4T和12.8T容量的能力。
隨著技術的進步，商業系統中緊密整合通訊和計算技術的網路硬體元件變得越來越常見，然而，CPO（共同封裝元件）對於AI/ML系統仍具有吸引力，人工智慧模型的規模，正以前所未有的速度增長；傳統的銅基電氣互連架構 (Copper-based electrical interconnect architecture) 將成為擴展機器學習的主要瓶頸，因此，高性能計算（HPC）及其新的分散架構引入了短距離光互連技術 (Short-Reach Optical Interconnect Technology)，分散式設計將運算、內存和儲存組件從服務卡中分開，並將它們進行池化 (Feature Pooling, 它是一種將輸入資料，按照一定的規則或操作進行壓縮或縮減的方法)。
透過先進的整合光學I/O技術（Integrated Optical Input/Output Technology），可以在xPU（包括CPU、DPU、GPU、TPU、FPGA和ASIC）、內存和儲存器中實現基於光學的互連，以實現所需的高傳輸速度和大頻寬。
未來，光學互連技術（Optical Interconnect Technology, 用於晶片和電路板之間的連接）的潛力巨大，這推動著大型代工廠為大規模生產做好準備；由於大多數光學連接技術的知識產權歸屬於非代工公司（例如AyarLabs、Ranovus、Cisco、Nvidia、Marvell、Lightmatter等），因此像Tower Semiconductor、GlobalFoundries、ASE Group、TSMC和Samsung等大型代工廠正在努力準備相應的矽光子技術流程，以支援設計公司開發各種光子整合電路架構，這些代工廠都積極參與產業聯盟，如PCIe、CXL和UCIe等，以確保他們能夠支援最新的產業標準和規範。
這一趨勢表明，光學互連技術在未來將扮演重要角色，並有望在大規模生產中得到廣泛應用，這將為數十億個光子互連的製造提供更多機會，同時也促使代工廠不斷改進和擴展其能力，以滿足市場的需求；各方的努力和合作將推動光學互連技術的發展，並為資料通訊和運算領域帶來更多創新和進步。
小晶片（chiplet）互連是一種通用規範，它允許在超過最大光罩 (photomask) 尺寸的大型片上系統（SoC）封裝中建立連接，這種方法的好處是可以在同一封裝內混合來自不同供應商的組件，並且透過使用較小的晶片來提高製造產量，每個小晶片可以使用適合特定元件類型、或運算性能/功耗要求的不同矽製造技術，這種設計方法具有靈活性和可擴展性，可以實現更高效的整合和更好的產品性能。透過利用不同供應商的技術和製程優勢，小晶片互連為系統設計帶來更多選擇和彈性，同時降低了製造成本和風險，這一趨勢在整合電路設計中受到廣泛關注，並有望推動下一代大型片上系統的發展和創新。
圖片來源：Yole Group
對快速增長的訓練資料集的預測表明，資料將成為擴展ML模型的主要瓶頸，因此，AI的進展可能會放緩。在AI/ML設備中加速資料移動是下一代HPC系統採用光學互連的主要因素，在ML硬件中使用光學I/O有助於應對資料的爆炸性增長。
重拾CPO：挑戰與機遇
在過去五十年裡，每十年都會出現一次行動通訊技術創新，行動頻寬需求已經從語音通話和短訊發展到超高清（UHD）影音和各種增強現實/虛擬現實（AR/VR）應用；儘管疫情對電信基礎設施供應鏈產生了很大影響，但全球消費者和商業用戶不斷對網路和雲端服務產生新的需求，社交網路、商務會議、UHD視頻流、電子商務和遊戲應用將繼續推動成長。
如今，每個家庭和人均連接到互聯網的設備數量正在增加，隨著功能和智能不斷增強的新型數字設備的出現，每年的採用率都在上升。此外，不斷擴展的機器對機器應用，如智能電錶、視頻監控、醫療保健監控、連接驅動器和自動化物流，極大地促進了設備和連接的增長，並推動了資料中心基礎設施的擴張。
由於預算削減，CPO社區面臨困難時期，只有在可插拔設備精疲力竭時CPO的全面部署才會發生。至少在接下來兩代交換機系統中，CPO很難與可插拔模組競爭，在很長一段時間內可插拔模組仍將是首選。由於在資料中心中的網路功率效率，CPO最近受到了很多關注。Cisco、Meta、IBM、Intel和Microsoft等產業重量級公司一直在努力推動CPO；Broadcom、GlobalFoundries、Marvell、Quanta Cloud Technology等公司也加入了進來。
分析表明，與資料中心總功耗相比，聯網節省的功耗可以忽略不計。只有Broadcom、Intel、Marvell和其他一些CPO公司會將專有解決方案推向市場。
隨著6.4T光學模組最晚在2029年到來，CPO和可插拔光學元件之間可能發生激烈的競爭，預計CPO系統中的多個技術障礙將在此時得到解決。不過，收發器產業正在不斷創新，以推動可插拔光學元件市場。在CPO系統實現網路應用的批量交付之前，將在可插拔設備中使用CPO方法，且光學引擎將在高性能計算的未來系統中越來越受歡迎。產業生態系統，包括Ayar Labs、Intel、Ranovus、Lightmatter、AMD、GlobalFoundries和其他圍繞機器學習（ML）系統供應商Nvidia和HPE，已經取得了相當大的進展，計劃在2024年至2026年間批量交付產品。
光子整合電路可以實現高功率和成本效益的光學互連CPO，可以預計，800G和1.6T可插拔模組將備受歡迎，因為它們具有100G和200G單波長光學元件的優勢，因此可以在QSFP-DD和OSFP-XD尺寸中實現技術和成本效益。
光纖距離晶片組也越來越近，用光將資料引入到集中處理點是架構設計師的主要目標之一。這一趨勢始於十年前安裝在PCB上的光學組件專有設計。這些嵌入式光學互連（EOI）的想法在板載光學聯盟（COBO）中得到了延續，其製定的規範允許在網路設備製造中使用板載光學模組。
CPO是一種創新方法，可以將光學元件和交換機ASIC緊密結合在一起。由於在50T交換晶片中使用16個3.2Tbps光學模組是當今技術的挑戰，NPO通過使用高性能PCB基板（一種內插器）解決了這一問題。NPO內插器更寬，使晶片和光學模組之間的訊號路由更容易，同時仍能滿足訊號完整性要求。相比之下，CPO能以更低的信道損耗和更低功耗使模組和主機ASIC更接近。
運營商的喜好：CPO與可插拔模組的部署方案比較
如今，光可插拔模組市場供應鏈已經建立完善，包括分立或整合組件供應商、生產發射器和接收器光學組件（TOSA和ROSA）、多路復用器、DSP和PCB的光學公司以及組裝/測試整合商。此外，一個交換機盒中多個不同可插拔模組的互操作性有助於產業的靈活性。高度整合的光學元件和矽晶片非常需要新的工程能力和代工廠，這對於傳統的中型企業來說是不可接受的。只有價值數十億美元的光學供應商才能負擔得起從可插拔產品轉向CPO的費用。
需要指出的是，儘管主流部署了主要針對大型雲運營商的CPO解決方案，但仍有許多小型企業資料中心沒有採用最新的互連技術。這意味著，即使CPO成為主流技術，可插拔模組仍將對CPO在技術或經濟上不可行的幾個應用（如長途應用和邊緣資料中心）有很高的需求。預計可插拔技術在未來10年內不會逐步淘汰。不過，可插拔光學產業可能會整合，而CPO市場將形成多供應商商業模式。
市場調研公司CIR表示，資料中心CPO的部署將在很大程度上受到交換演進的驅動，到2025年，將達到102.4Tbps。CIR表示，與使用可插拔光學元件相比，CPO可以將功耗降低30%，每比特的成本降低40%。
在組件層面，與前板可插拔產品（FPP）相比，CPO具有潛在的經濟效益。正如Ranovus董事長兼CEO Hamid Arabzadeh所說：成本是一個關鍵因素，因為不需要PAM4 IC定時器，“不需要時鐘和資料恢復（CDR）晶片和其他FPP項目也可能帶來節約。”
串行器和解串器（SerDes）鏈路是CPO的熱門話題。Martin Vallo博士認為，224Gbps資料速率的標準化SerDes鏈路是使CPO成為主流的必備條件之一，可以通過多種鏈路類型提供訊號，包括晶片到晶片（D2D）、晶片到模組（C2M）、中距離晶片到晶片（MR）和長距離晶片到晶片（LR）。
FPP和CPO部署模型的比較
與此同時，思科和OIF成員Jock Bovington強調，共同封裝的好處之一是降低整體功耗，“採用共同封裝時—無論是在同一基板（CPO）上還是在高密度中間層（HDI）基板（NPO）上 — 通道的損耗都會大大減少，能夠使用明顯更低功耗的SerDes，如XSR（10dB）或XSR+（13dB），OIF開發了兩種類型的電氣接口。”
文章來源：EET China
相關產品
VIAVI ONT N-PORT 模組是一種用於 100G 級產品測試和系統驗證的四端口解決方案，支援四個完全獨立的原生 QSFP28 或 SFP28 端口；測試應用包括乙太網、OTN 以及光纖通道。
800G FLEX 模組針對基於 PAM-4 的產品加快開發速度，支持速率 400G 以及向下相容 200G、100G、50G，此儀表提供從 PHY 層、PCS 層一直到 MAC 層的完整統合性測試。
業界首款基於 100G 電氣通道速度的可插拔 800G 光模組的整合式測試產品，簡化和加速實驗室和生產中的高速網路測試；VIAVI 800G FLEX XPM 模組提供廣泛的關鍵測試和測量功能，製造商需要這些功能來設計和驗證基於 100G 電訊號 (56Gbd PAM-4) 的 800G 光模組，可進行 OSFP 800G 和 QSFP-DD800 的測試。
延伸閱讀
光通訊網路傳輸驗證測試總覽 > 翔宇科技代理了各種光通訊測試解決方案，涵蓋 800 / 400 / 200 / 100 / 50 / 40 / 25 / 10 / 1 GbE 光通訊傳輸，提供 PHY / FEC / PCS / MAC 層的關鍵功能測試、壓力測試、分析及告警。