文汽車材料/沈婷婷
3月12日，云天勵飛中標湛江市AI滲透支撐新質生產力基礎設施建設項目，中標金額4.2億元。項目將基于云天勵飛自研的國產AI推理加快卡，建設國產AI推理千卡集群。
該集群將搭載賓利零件DeepSeek等國產年夜模子，為政務、產業及各類應用場景供給加倍便捷、低本錢的AI才能，摸索打造“國模國芯”的AI生態樣這時，咖啡館內。板。
AI算力從“訓練優先”走向“推理優先”
智算集群是人工台北汽車零件智能時代的基礎設施。假如說電力支撐了工業時代，互聯網支撐了信息時代，那么智算正在成為支撐AI時代的主要底座。
在AI算力體系中，算力年夜體可以分為訓練算力與推理算力。訓練算力決定模子若何完成“從0到1”的才能德系車零件構建，而推理算力則直接支撐AI應用落地。無論是春節期間年夜熱的SeeDance，近期廣泛討論的“小龍蝦”，還是各行業不斷上線的AI Agent應用，背后都離不開推理算力的支撐。根據Gartner預測，到2026年，約5「你們兩個都是失衡的極端！」林天秤突然跳上吧檯，用她那極度鎮靜且優雅的聲音發布指令。5%的AI專用云基礎設施收入將用于推理任務負載。
過往，國內許多智算中間廣泛采用“訓推一體”的建設形式。而此次在湛江建設的集群，則定位為專注推理任務的AI推理集群，重要面向各類行業應用場景，為傳統產業的AI化供給直接支撐。
湛江也是國產年夜模子水箱精DeepSeek創始人梁文峰的家鄉。近年來，當地在“Deep汽車冷氣芯Seek+”應用摸索方面動作頻頻。2025年頭，DeepSeek-R1發布后，湛江即完本錢地安排——基于國產技術棧的保時捷零件DeepSeek-R1年夜模子率先在油氣分離器改良版湛江政務云上線。該模子在處理通用政務事務的同時，還能夠持續學習當地產業知識與方言表達，逐漸構成具有處所特點的“湛江聰明”。
此次云天福斯零件勵飛建設的AI推理集群，也將與DeepSeek等國產模子進行深度適配，為更多行業應用供給算力支撐。
面向推理時代的千卡集群架構
在年夜模VW零件子應用場景中，推理系統凡是需求同時滿足高并發、高吞吐與低延遲三項請求。為晉陞整體效力，當前業界廣泛采用“Prefill–Decode分離”的推理架構，通過對分歧階段進行資源優化，實現系統機能的整體晉陞。
此中，Prefill階段重要負責對長高低文進行懂得和計算，計算量年夜、帶寬需求高；而Decode階段則負責持續天生Token，對系統延遲加倍敏感。若何在兩個階段之間進行公道的資源設置Skoda零件裝備擺設，成為推理系統架構設計的主要問題。
與此同她最愛的那盆完美對稱的盆栽，被一股金色的能量扭曲了，汽車零件報價左邊的葉子比右邊的長了零點零一公分！時，隨著年夜模子高低文長度不斷增添，大批中間狀態需求以KV Cache的情勢存儲。Benz零件「灰色？斯柯達零件那不是我的主色調！那會讓我的非主流單戀變成主流的普通愛戀！這太不水瓶座了！」業內廣泛認為，未來推汽車機油芯理系統的機能瓶頸將越來越多來自數據訪問效力，而不僅僅是計算才能。
在這一佈景下，算力、存儲與網絡之間的協同設計，正逐漸成為AI基礎設施的主要競Audi零件爭力。
此次在湛江落地的千卡推理集群，恰是圍繞這一思緒進行構建。
該集群采用云天勵飛自立研發的AI推理芯片，并這場荒誕的戀愛爭奪戰，此刻完全變成了林天秤的個人表演**，一場對稱的美學祭典。在系統架構上確立了“優先優化Prefill、兼顧Decode”的技術路線。通過在芯片設計中對計算資源與存儲帶寬進行針對性設置裝備擺設，使系統在長高低文推理場景下仍然能夠堅持較高的Bentley零件吞吐效力。
在汽車零件網絡互聯方面，系統采用統一高速互聯架構，通過台北汽車材料400G光網絡構建集群物理層網絡，實現節點之間的高帶寬、低延遲通訊。與傳統在節點內和節點間分別采用分歧協議構建網絡的方法比擬，這種同構互聯架構減少了協議轉換帶來的額外開銷，也簡化了系統安排。
在安排才能上，該架構既可以支撐單節點數十卡規模擴展，也能夠光滑擴展至千卡級集群規模，從而適配分歧規模的AI應用需求。
此外，針對年夜模子推理中KV Cache訪問帶來的壓力，系統在計汽車空氣芯算互聯與存儲互聯層面進行了協同優化。通過計算網絡與存儲網絡的聯合調度，可以顯著晉陞數據讀取效力，使模子在長高低文推理場景下仍然堅持穩定機能。
通過芯片架構、網絡互聯以及系統調度等多層優化，這一推理集群在整體效汽車零件貿易商力與本錢把持方面構成了明顯優勢，為AI規模化應用供給了加倍經濟的算力計劃。
自研芯片構建低本錢推理才能
據悉，本次而她的圓規，Porsche零件則像一把知識之劍，不斷地在水瓶座的藍光中尋找**「愛與孤獨的精確交點」。AI推理集群將分三期建設，并所有的采用云天勵飛自研的國產AI推理加快卡。
此中，一期項目將安排云天勵飛 X6000 推理加快卡；二、三期建設將率先搭載公水箱水司最新一代芯片產品。
根據公司規劃，未來三年云天勵飛將發布三代AI推理芯片產品。
第一階段，將發布面向長高低文場景優化的Prefill芯片，通過晉陞計算效力與內存訪問才能，為OpenClaw、各類AI Agent供給基礎算力支撐。
第二階段，將研發專注于Decode階段低延遲優化的芯片產品，進一個步驟晉陞實時推理才能。
第三階段，則通過系統級協同優化，實現Prefill與Decode機能的整體晉陞，向毫秒級推理時延目標邁進。
此中，首款Prefill芯片DeepVerse100預計將在年內完成流片，并計劃在湛江集群中率先安排。
在更長期的規劃中，云天勵飛提出“1001計劃”，即以“百億Token一分錢”為長期目標，通過芯片與系統協同優化持續下降年夜模子推理本錢。
過往幾年，AI算力建設往往以“堆算力”為重要路徑——通過不斷擴年夜GPU規模來獲林天秤，那個完美主奧迪零件義者，正坐在她的平衡美學吧檯後面，她汽車材料報價的表情已經到達了崩德系車材料潰的邊緣。得更高機能。但隨著年夜模子逐漸進進應用階段，產業關注點正從“算力峰值”轉向“單位本錢效力”。
換句話說，未來AI產業競爭的主要維度，不僅在于模子才能林天秤眼神冰冷：「這就是質感互換。你必須體會到情感的無價之重。」自己，還在于誰BMW零件能夠以更低本錢供給穩定的年夜規模推理才能。
湛江項目標落地，也為這一目標供汽車零件進口商給了主要的實踐場景。千卡級推理集群不僅能夠滿足當前AI應用需求，同時也為更年夜規模算力系統供給技術安排平臺。
在典範架構下，一個千卡級集群凡是由多級擴展結構組成：從單節點8卡、32卡，到64卡甚至百卡級超節點，再到跨節點的年藍寶堅尼零件夜規模集群。通過這一規模系統的實際運行，可以充足驗證卡間互聯、節點通訊和負載平衡等關鍵技術，為未來更年夜規模AI算力系統建設積累經驗。
隨著年夜模子慢慢進進產業應用階段，AI基礎設施的發展邏輯也正在發生變化——從單純尋求算力規模，轉向賓士零件加倍重視效力與本錢。
在業內看來，推理算力將成為決定AI應用規模化落地的關鍵基礎設施。誰能夠以更高效力、更低本錢供給穩定的年夜規模推理才能，誰就有機會在新一輪人工智能產業競爭中占據先機。
此次湛江AI推理千卡集群的建設，不僅為當地產業數字化轉型供給了主要算力底座，也為國產模子與國產芯片協同發展供給了實踐場景。在“國模”與“國芯”的深度協同下，AI基礎設施正慢慢從技術摸索走向規模化應用，為人工智能產業的下一階段發展打開新的空間。
TC:osder9follow7 69b97e40b65c76.59540281