Nvidia、AMD和Intel罕見(jiàn)聯(lián)手，投資一家光芯片公司

　　來(lái)源：華爾街見(jiàn)聞

　　這家名為Ayar Labs的光芯片初創(chuàng )公司，致力于打破過(guò)去的數據傳輸模式，目標是將光通信直接置于封裝上，而不是受到IO密度問(wèn)題、數據速率擴展和電子封裝到封裝互連的功率低效性限制。

　　近年來(lái)，隨著(zhù)AI競爭愈演愈烈，無(wú)論是傳統還是新興的處理器巨頭都在圍繞CPU、GPU和AI加速器展開(kāi)了激烈競爭。尤其是AMD、Intel和英偉達三大標志性巨頭，由于三者的競爭包含后來(lái)者的追趕逆襲、新市場(chǎng)的來(lái)勢洶洶、老巨頭的不甘人后等情節，使得這三個(gè)巨頭的任何動(dòng)向尤為關(guān)注。這三家公司圍繞著(zhù)人工智能和PC展開(kāi)明爭暗斗也是眾所周知。

　　但近日，這三家公司罕見(jiàn)聯(lián)手，投資了一家名為Ayar Labs的光芯片初創(chuàng )公司。

　　三大芯片巨頭，看上光互連

　　Ayar Labs今天宣布，已獲得由 Advent Global Opportunities 和 Light Street Capital 領(lǐng)投的 1.55 億美元融資，旨在利用其光學(xué) I/O 技術(shù)打破 AI 數據移動(dòng)瓶頸。這使該公司的總融資額達到 3.7 億美元，并將公司估值提高至 10 億美元以上。

　　正如Ayar Labs所說(shuō)，本輪融資的規模和投資者的素質(zhì)標志著(zhù) Ayar Labs 的又一個(gè)重要里程碑，該公司正在準備其光學(xué)解決方案，以戰略性地配合客戶(hù)路線(xiàn)圖進(jìn)行大批量生產(chǎn)。該公司表示，參與本輪融資的知名公司就涵括了當前最炙手可熱的芯片三大巨頭AMD Ventures、Intel Capital 和 NVIDIA ，其他新戰略和金融投資者包括 3M Ventures 和 Autopilot。值得一提的是，在之前，Ayar Labs也拿了包括Applied Ventures LLC、Axial Partners、Boardman Bay Capital Management、GlobalFoundries、IAG Capital Partners、Lockheed Martin Ventures、Playground Global 和 VentureTech Alliance在內的眾多知名企業(yè)和機構的錢(qián)。

　　Ayar Labs 首席執行官兼聯(lián)合創(chuàng )始人 Mark Wade 表示：“領(lǐng)先的 GPU 提供商 AMD 和 NVIDIA 以及半導體代工廠(chǎng) GlobalFoundries、Intel Foundry 和 TSMC，再加上 Advent、Light Street 和我們其他投資者的支持，凸顯了我們的光學(xué) I/O 技術(shù)重新定義 AI 基礎設施未來(lái)的潛力?！薄拔覀兎浅Ｐ疫\，在這輪融資中，Light Street 在技術(shù)特定投資方面的深厚專(zhuān)業(yè)知識以及 Advent 強大的私募和成長(cháng)股權背景為我們提供了支持?！?/p>

　　據相關(guān)資料顯示，Ayar Labs成立于 2015 年，公司團隊由來(lái)自英特爾、IBM、美光、Penguin、麻省理工學(xué)院、伯克利和斯坦福的許多頂尖技術(shù)專(zhuān)家組成。

　　在官網(wǎng)的介紹中，Ayar Labs將公司定位為光學(xué)互連解決方案領(lǐng)域的領(lǐng)導者，其提供的產(chǎn)品數據傳輸速度與 AI 相當。公司表示，在意識到 AI 模型的復雜性和規模正在以傳統互連技術(shù)無(wú)法處理的速度增長(cháng)，他們開(kāi)發(fā)了業(yè)界首個(gè)光學(xué) I/O 解決方案，使客戶(hù)能夠最大限度地提高不斷增長(cháng)的 AI 基礎設施的計算效率和性能，同時(shí)降低成本、延遲和功耗。Ayar Labs指出，公司的光學(xué) I/O 解決方案基于開(kāi)放標準，并針對 AI 訓練和推理進(jìn)行了優(yōu)化，擁有強大的生態(tài)系統，使其能夠順利大規模集成到 AI 系統中。

　　如上圖所示，Ayar Labs 表示，公司故事的起源可以追溯到公司在2010年的發(fā)布的一篇名為《Open foundry platform for high-performance electronic-photonic integration》的論文。據介紹，該文章論述采用當時(shí)商用電子 45 nm SOI-CMOS 代工工藝制造的具有 3 dB/cm 波導損耗的光子器件。通過(guò)利用現有的前端制造工藝，光子器件與電子器件單片集成在與晶體管相同的物理器件層中，實(shí)現 4 ps 邏輯級延遲，而不會(huì )降低晶體管性能。

　　在文章中，他們展示了一個(gè) 8 通道光學(xué)微環(huán)諧振器濾波器組和光調制器，它們均由集成數字電路控制。通過(guò)開(kāi)發(fā)一種不需要任何工藝基礎設施更改的器件設計方法，可以實(shí)現廣泛可用的高性能光子電子集成電路平臺。

　　在文章的論述階段他們強調，論戰展示的電子-光子平臺是一種可訪(fǎng)問(wèn)的、低成本的利用現有電子代工廠(chǎng)基礎設施的方法，可用于制造高性能光子器件和最先進(jìn)的 CMOS 晶體管。使用薄 SOI-CMOS 工藝無(wú)需進(jìn)行代工廠(chǎng)內部改動(dòng)，只需進(jìn)行簡(jiǎn)單的后處理即可實(shí)現良好的無(wú)源光子性能，消除了之前工作中存在的波導損耗瓶頸。文章介紹的濾波器組解復用器和調制器等設備，以及目前正在開(kāi)發(fā)的集成光電探測器，構成了先進(jìn)電子工藝中光子互連平臺的基礎，該工藝可用于制造當今的微處理器。該代工平臺的通用性質(zhì)使我們可以使用最先進(jìn)的技術(shù)，這將極大地促進(jìn)整個(gè) VLSI 和光子系統及應用領(lǐng)域的新型電光片上系統的研究。

　　正是基于這個(gè)研究，Ayar Labs在2015年宣告成立，然后在次年獲得了種子輪投資（GlobalFoundries 參與了種子輪融資）。

　　Ayar Labs，聚焦解決的問(wèn)題

　　在具體介紹Ayar Labs的產(chǎn)品之前，我們先介紹一下他們具體想解決什么問(wèn)題。

　　正如之前很多報道中所說(shuō)，高性能計算引擎存在帶寬和信號問(wèn)題，這已經(jīng)不是什么秘密了。如果你想要以合理的每秒容量快速地將數據輸入和輸出，從而讓引擎中的數十到數萬(wàn)個(gè)核心保持忙碌，那么如果你要堅持使用銅線(xiàn)，就必須盡可能緊密地連接它們，無(wú)論是插入堆疊內存的插入器上的走線(xiàn)，還是進(jìn)出 SerDes 的電線(xiàn)，以將計算引擎連接在一起以并行運行。

　　問(wèn)題在于電線(xiàn)的長(cháng)度過(guò)長(cháng)。每次將帶寬增加一倍時(shí)，由于信號失真，您都必須將電線(xiàn)長(cháng)度減半。這是物理學(xué)和材料科學(xué)的問(wèn)題，每個(gè)人都知道最終銅線(xiàn)將被光纖取代。而且由于人工智能工作負載對帶寬的巨大需求，未來(lái)幾年內這似乎將真正成為不可避免的趨勢。

　　Ayar Labs也正是這樣的“光”參與者，致力于打破過(guò)去的數據傳輸模式。

　　據了解，他們的目標是將光通信直接置于封裝上，而不是受到 IO 密度問(wèn)題、數據速率擴展和電子封裝到封裝互連的功率低效性限制。Ayar Labs 的主要觀(guān)點(diǎn)是，在 1cm 到 10cm 的傳輸范圍內，光學(xué) IO 比當前的電子系統更高效。解決數據傳輸功率膨脹問(wèn)題的最佳方法是，只要您將數據傳輸到此距離以外，就切換到光學(xué)。

　　知名行業(yè)分析機構semianalysis表示，轉向共封裝光學(xué)器件有許多好處。例如數據不需要從處理器發(fā)送到網(wǎng)卡，也不需要通過(guò)昂貴的光收發(fā)器。處理器本身也可以節省大量成本，因為不必將太多的芯片面積專(zhuān)用于大型高速電氣 SerDes。

　　鑒于 Ayar Labs 已加入開(kāi)放的 UCIe 標準，Semianalysis認為他們的芯片將使用該協(xié)議作為與外部公司芯片接口的基礎層。UCIe 支持英特爾、ASE 和臺積電的許多封裝選項。在處理器方面，英特爾、AMD、博通、美光、聯(lián)發(fā)科和 GUC 都是該聯(lián)盟的成員。UCIe 極大地降低了將第三方芯片集成到封裝中的進(jìn)入門(mén)檻，這反過(guò)來(lái)應該會(huì )降低 Ayar Labs 獲得設計勝利的進(jìn)入門(mén)檻。此外，Ayar Labs 也明確支持高密度扇出、英特爾的 EMIB 和其他硅中介層技術(shù)。

　　目前，Ayar Labs有兩種主要的產(chǎn)品：一是SuperNova 光源——這是封裝外部的遠程光源，可以將其視為位于 ASIC 封裝外部某處的光電源；另一個(gè)是TeraPHY 光學(xué) I/O 芯片，這種硅片包含約 7000 萬(wàn)個(gè)晶體管和 10，000 多個(gè)光學(xué)器件。據介紹，他們將硅光子器件集成到 CMOS 工藝中，制成我們作為芯片出售的硅片。該芯片集成到客戶(hù) SOC 封裝中。

　　從官網(wǎng)可以看到，SuperNova遠程光源是 Ayar Labs 光學(xué) I/O 解決方案的支柱，也是業(yè)界首款符合 CW-WDM MSA 標準的 16 波長(cháng)光源，可提供多達 16 種波長(cháng)的光并為多達 16 個(gè)端口供電。與 Ayar Labs TeraPHY 光學(xué) I/O 芯片組相結合，與傳統互連（可插拔光學(xué)器件 + 電氣 SerDes）相比，該解決方案可提供 5 至 10 倍的更高帶寬、10 倍的更低延遲和 4 至 8 倍的更高能效。光學(xué) I/O 消除了 I/O 瓶頸，超越了工藝限制，并為下一代 AI 架構釋放了創(chuàng )新架構。

　　TeraPHY光學(xué) I/O 芯片組則是一種體積小、功耗低、吞吐量高的銅背板和可插拔光學(xué)通信替代方案。TeraPHY 芯片組的模塊化多端口設計可承載八個(gè)光通道（相當于 x8 PCIe Gen5 鏈路）。這款業(yè)界首創(chuàng )的光學(xué) I/O 芯片組將硅光子學(xué)與標準 CMOS 制造工藝相結合。它適用于現有的系統級封裝架構，不需要 SoC 定制。

　　按照該公司CEO Mark Wade所說(shuō)，Ayar Labs目前的主要商業(yè)模式是銷(xiāo)售實(shí)際產(chǎn)品。他表示，SOC領(lǐng)域已經(jīng)發(fā)生了整個(gè)范式轉變，以推動(dòng) chiplet 的采用。如果你打開(kāi) ASIC 的蓋子，你會(huì )看到里面有多個(gè)芯片。于是，Ayar Labs將所謂的“KGD”光學(xué)芯片裝入客戶(hù)的封裝中銷(xiāo)售。來(lái)到光學(xué) I/O 芯片方面，Ayar Labs將其作為創(chuàng )收產(chǎn)品銷(xiāo)售，客戶(hù)只需直接從我們這里購買(mǎi)芯片即可。

　　Wade強調，Ayar Labs的市場(chǎng)策略專(zhuān)注于解決光子學(xué)領(lǐng)域的大批量、高質(zhì)量制造問(wèn)題。我們與 GlobalFoundries、Applied Materials、英特爾和臺積電等主要公司建立了戰略合作關(guān)系，并與所有一線(xiàn) CMOS 制造商展開(kāi)合作。

　　Ayar Labs還與大型 AI 系統領(lǐng)域的領(lǐng)導者 Nvidia 建立了戰略合作伙伴關(guān)系，共同將我們的技術(shù)融入未來(lái)的 AI 系統。公司的直接客戶(hù)正在構建 SOC 和 SOC 系統，其一流生態(tài)系統包括 Nvidia、AMD、英特爾、博通和高通等公司。

　　“構建大規模 AI 模型的終端客戶(hù)（例如 Anthropic 和 OpenAI）至關(guān)重要。數據中心在嘗試擴展 AI 工作負載時(shí)出現了許多嚴重問(wèn)題。我們發(fā)現，這些公司對未來(lái)的愿景與我們多年來(lái)的預測相似，這證實(shí)了這一點(diǎn)?！盇yar Labs CEO Mark Wade強調?！拔覀兊某晒θQ于能否進(jìn)入這些領(lǐng)域。我們正在應對光子技術(shù)方面的挑戰，特別是在大批量、高質(zhì)量制造方面。這種方法使我們能夠與行業(yè)主要參與者合作，同時(shí)滿(mǎn)足最終用戶(hù)的需求，從而突破人工智能技術(shù)的界限?！盡ark Wade接著(zhù)說(shuō)。

　　Ayar Labs 今年八月曾表示，將發(fā)布其光學(xué) I/O 技術(shù)來(lái)取代芯片內的銅線(xiàn)。該公司正在開(kāi)發(fā)將光學(xué) I/O 放入芯片結構中的技術(shù)，并已研究該技術(shù)十多年。該技術(shù)允許芯片內部實(shí)現更快的通信，旨在取代速度較慢的銅線(xiàn)。

　　“借助光學(xué) I/O，你可以突破幾十米甚至幾百米的距離，然后連接更多的 GPU 或加速器，”Wade 說(shuō)。

　　大規模商用在即？

　　在人們很容易認為，Nvidia、AMD 和英特爾的投資預示著(zhù)這些公司正在尋求以某種方式在其計算引擎中部署 TeraPHY 光學(xué)傳輸及其 SuperNova 激光源。我們知道，他們的早期投資者HPE早在 2022 年 2 月就與 Ayar Labs 達成了一項戰略投資和合作協(xié)議，將硅光子學(xué)添加到其“Rosetta”Slingshot 互連中。

　　但在回答The Next Platform咨詢(xún)時(shí)，Ayar Labs 商業(yè)運營(yíng)副總裁 Terry Thorn 開(kāi)玩笑說(shuō)：“他們都是投資者和公司，我們正在與他們一起探索許多有趣的機會(huì )——其中大部分我們目前還不能談?wù)??！蔽覀兛梢韵胂筮@種情況會(huì )發(fā)生，但還有許多其他方法可以實(shí)現共封裝光學(xué)器件，這三家公司也都有發(fā)明自己產(chǎn)品的習慣。

　　換而言之，通過(guò)這些投資，這些芯片公司可能只是想更深入了解 Ayar Labs 正在做的事情。但正如Mark Wade在之前的采訪(fǎng)中所說(shuō)，在很多場(chǎng)景中會(huì )需要使用光連接。

　　如他所說(shuō)，當Ayar Labs剛開(kāi)始研究這個(gè)問(wèn)題時(shí)，許多早期見(jiàn)解都來(lái)自高性能計算社區——你知道，國家實(shí)驗室正在建造的大型機器。這些大型系統首先發(fā)現它們存在大量數據移動(dòng)問(wèn)題，這些問(wèn)題開(kāi)始成為整個(gè)系統性能的瓶頸。這就是Ayar Labs稱(chēng)之為“煤礦中的金絲雀”的 2010 年至 2015 年的時(shí)間段，當時(shí)的現狀表明底層計算技術(shù)存在問(wèn)題。

　　之后，隨著(zhù)人工智能工作流程開(kāi)始出現，以及圖像識別、推薦引擎等早期工作負載——但后來(lái)，特別是當轉換器模型上線(xiàn)并開(kāi)始啟用新的人工智能應用程序時(shí)，我們進(jìn)入了生成式人工智能時(shí)代。但關(guān)鍵是要意識到，構成這些人工智能計算系統骨干的計算系統看起來(lái)像高性能計算架構。

　　“因此，十年前在高性能計算中發(fā)生的相同數據移動(dòng)挑戰現在開(kāi)始出現在人工智能系統中，并成為整個(gè)系統性能的瓶頸?！盡ark Wade強調。

　　Mark Wade指出，這是一個(gè)多方面的問(wèn)題。您必須讓人們在功率受限的情況下將更多帶寬傳輸到更長(cháng)的距離。因此，這些系統的功率限制并不是無(wú)限的。每個(gè)級別都存在熱和功率密度問(wèn)題 - 芯片級、封裝級、系統板級、機架級。因此，每個(gè)級別都存在功率問(wèn)題。延遲是您必須更仔細檢查的地方。

　　“如今，人們使用銅線(xiàn)和電氣 I/O 以電氣方式傳輸高帶寬的方式，您往往會(huì )做一些事情，例如添加糾錯，因為您要嘗試恢復在以電氣方式傳輸數據時(shí)發(fā)生的所有低效率和數據損壞。在光學(xué)方面，您可以以一種優(yōu)雅的方式解決這個(gè)問(wèn)題，從而擺脫糾錯。因此，您可以獲得更輕量級的糾錯架構，但這會(huì )影響延遲?！盡ark Wade說(shuō)。

　　為了實(shí)現上述目標，Ayar Labs一直在豐富其產(chǎn)品線(xiàn)。

　　如果你看一下路線(xiàn)圖，就會(huì )發(fā)現Ayar Labs每隔幾年就會(huì )將每個(gè)芯片的帶寬翻一番。他們的計劃從 4 Tbps 增加到 8 Tbps，然后是 16Tbps 和 32 Tbps，這是每個(gè)芯片的帶寬。Ayar Labs還下調了一些向量——每個(gè)芯片的帶寬、每個(gè)封裝實(shí)例化多個(gè)芯片的能力、擴大整個(gè)封裝級別帶寬以及可以從封裝中釋放的帶寬基數。Ayar Labs的客戶(hù)通常關(guān)注我們可以從他們的封裝中釋放多少帶寬，以及在什么樣的功率密度約束下。特別是隨著(zhù)人工智能系統的發(fā)展，每個(gè)封裝中更高的帶寬釋放變得越來(lái)越重要，同時(shí)也提高了連接的基數。

　　目前，Ayar Labs的每個(gè)芯片有 8 個(gè)端口，每個(gè)芯片組有 8 個(gè)端口。假設每個(gè)封裝有 4 個(gè)芯片組，則您的連接端口為 32 個(gè)，您可以將所有這些端口連接到不同的地方。

　　展望未來(lái)，Wade表示：“我們目前在實(shí)驗室中與客戶(hù)共同開(kāi)展的工作，實(shí)際上是為了在兩到三年后實(shí)現首次大規模市場(chǎng)部署?！?/p>

　　寫(xiě)在最后

　　其實(shí)光學(xué)并不是一項新技術(shù)——光纖真正進(jìn)入技術(shù)領(lǐng)域是在 70 年代。我們開(kāi)始建造海底電纜和類(lèi)似的東西，最終連接互聯(lián)網(wǎng)。光學(xué)技術(shù)是眾所周知的。

　　但是將數據直接以光學(xué)方式從計算包中移出的需求實(shí)際上是一個(gè)相當新的現象，這與電氣 I/O 問(wèn)題的惡化速度有關(guān)。我們的應用程序需要更高的帶寬和更好的能效——這開(kāi)始打破現有的基于電氣 I/O 的系統。但挑戰在于，你不能只把人們使用的技術(shù)和產(chǎn)品用于人們可能熟悉的更標準化的解決方案，例如使用以太網(wǎng)的可插拔收發(fā)器。如果我在數據中心內移動(dòng) 100 Gbps、400 Gbps 或 800 Gbps，那么這些已經(jīng)是光學(xué)可插拔收發(fā)器了。問(wèn)題是，如果你打開(kāi)這些收發(fā)器并查看里面的東西，你會(huì )發(fā)現它們沒(méi)有直接擴展到計算結構的特性。

　　因此，要實(shí)現上述目標，除了要面對尺寸、元件數量、成本結構，以及所有這些組件的組裝方式外。還有功率效率、熱靈敏度等問(wèn)題，還有“我不能直接將收發(fā)器放入計算機封裝中”的一系列問(wèn)題。

　　“因此，我們必須從頭開(kāi)始發(fā)明一種具有正確底層特性的技術(shù)：密度、設備尺寸、能源效率，更重要的是，能夠集成到制造工藝中，從而在 CMOS 規模下運行。我們必須掌握如何將該技術(shù)納入封裝，因為這是一種真正大規模的應用。所有這些特性在每一步都是挑戰，我們公司的一部分，以及我們多年來(lái)所努力的一部分，實(shí)際上是在一步步解決這些問(wèn)題?！盡ark Wade表示。

　　面向這個(gè)市場(chǎng)和機會(huì )，除了Ayar Labs以外，Lightmatter、Celestial AI 、Eliyan以及國內的曦智和一大堆的處理器、晶圓廠(chǎng)和封裝廠(chǎng)都在努力，為硅光子學(xué)成為計算引擎和互連之間的橋梁各出奇招。

　　文章來(lái)源：半導體行業(yè)觀(guān)察，原文標題：《Nvidia、AMD和Intel罕見(jiàn)聯(lián)手，投資一家光芯片公司》

　　風(fēng)險提示及免責條款

　　市場(chǎng)有風(fēng)險，投資需謹慎。本文不構成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資，責任自負。