以下文章來(lái)源于數(shù)據(jù)猿，作者夢(mèng)蕓
“WAIC 2025匯聚前沿科技，同泰怡全國(guó)產(chǎn)大模型一體機(jī)亮相。
大模型的技術(shù)浪潮一浪高過(guò)一浪，推動(dòng)產(chǎn)業(yè)變革的同時(shí)，也加速倒閉服務(wù)器、算力中心等IT硬件基礎(chǔ)設(shè)施的重構(gòu)。
尤其是今年年初，DeepSeek橫空出世，加速推動(dòng)了大模型一體機(jī)、AI服務(wù)器等市場(chǎng)的爆發(fā)。
“我們進(jìn)行了大量的測(cè)試和性能優(yōu)化，最終形成了一系列覆蓋廣泛的產(chǎn)品線。” 近日，在備受矚目的2025世界人工智能大會(huì)（WAIC 2025）上 ，深圳市同泰怡信息技術(shù)有限公司（以下簡(jiǎn)稱(chēng) “同泰怡”）攜其四大產(chǎn)品矩陣及AI大模型一體機(jī)亮相。
同泰怡成立于2016年，是一家從事服務(wù)器產(chǎn)品設(shè)計(jì)、技術(shù)研發(fā)、生產(chǎn)制造、客戶服務(wù)的專(zhuān)業(yè)廠商，其產(chǎn)品廣泛應(yīng)用于人工智能、云計(jì)算、大數(shù)據(jù)和信息安全等關(guān)鍵技術(shù)領(lǐng)域，獲國(guó)家工信部專(zhuān)精特新“重點(diǎn)小巨人”稱(chēng)號(hào)。為深入了解同泰怡在此次大會(huì)上的最新展出產(chǎn)品，數(shù)據(jù)猿對(duì)同泰怡產(chǎn)品中心總經(jīng)理馬澤進(jìn)行了專(zhuān)訪。希望通過(guò)此次專(zhuān)訪，為行業(yè)發(fā)展提供一些有價(jià)值的參考和借鑒。
從WAIC 2025看AI硬件的國(guó)產(chǎn)化之路
今年的WAIC 2025大會(huì)于上海盛大開(kāi)幕，這場(chǎng)人工智能領(lǐng)域的年度大會(huì)，匯聚了全球頂尖的企業(yè)、專(zhuān)家和創(chuàng)新成果。作為人工智能行業(yè)的一名資深從業(yè)者，馬澤對(duì)WAIC 2025大會(huì)所反映的行業(yè)趨勢(shì)有一些自己的看法。他認(rèn)為，今年的大會(huì)清晰地展現(xiàn)了幾個(gè)關(guān)鍵的發(fā)展方向。
首先，從硬件發(fā)展趨勢(shì)來(lái)看，超節(jié)點(diǎn)和高密度計(jì)算成為了行業(yè)熱點(diǎn)話題。馬澤指出：“像華為的384超節(jié)點(diǎn)集群以及華三的類(lèi)似超節(jié)點(diǎn)產(chǎn)品，它們展示了整機(jī)柜類(lèi)服務(wù)器在追求極高算力密度方面的努力和成就。隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的日益復(fù)雜，市場(chǎng)對(duì)于算力的需求呈現(xiàn)出爆發(fā)式增長(zhǎng)，這也直接推動(dòng)了硬件設(shè)備向超節(jié)點(diǎn)和高密度方向的快速演進(jìn)，以滿足日益增長(zhǎng)的計(jì)算需求。”
其次，在能效提升方面，液冷技術(shù)逐漸嶄露頭角，成為了行業(yè)關(guān)注的焦點(diǎn)。傳統(tǒng)數(shù)據(jù)中心的PUE（電源使用效率）通常在1.4或更高，這意味著在能源利用效率方面還有很大的提升空間。馬澤強(qiáng)調(diào)：“在綠色節(jié)能和低碳發(fā)展的大背景下，液冷技術(shù)以其出色的散熱性能和能效表現(xiàn)，受到了越來(lái)越多企業(yè)的重視和研究。目前，該技術(shù)的應(yīng)用范圍正在不斷擴(kuò)大，未來(lái)有望成為數(shù)據(jù)中心等高性能計(jì)算場(chǎng)景中的主流散熱方案，為行業(yè)的可持續(xù)發(fā)展提供有力支持。”
最后，國(guó)產(chǎn)化替代的趨勢(shì)不可阻擋。馬澤談到：“過(guò)去，我們?cè)贕PU卡領(lǐng)域主要依賴(lài)于英偉達(dá)等國(guó)外品牌。然而，近年來(lái)中美貿(mào)易摩擦的加劇以及相關(guān)限制措施的實(shí)施，使得進(jìn)口GPU卡受到了嚴(yán)重影響。在此背景下，國(guó)家出臺(tái)了多項(xiàng)政策扶持國(guó)產(chǎn)GPU產(chǎn)業(yè)的發(fā)展，越來(lái)越多的國(guó)產(chǎn)GPU廠商如雨后春筍般涌現(xiàn)，并且已經(jīng)開(kāi)始有了實(shí)際落地的應(yīng)用案例。雖然目前國(guó)產(chǎn)GPU在性能和生態(tài)完整性方面與英偉達(dá)還存在一定差距，但我們相信，隨著技術(shù)的不斷進(jìn)步和產(chǎn)業(yè)鏈的逐步完善，國(guó)產(chǎn)GPU必將在未來(lái)的人工智能市場(chǎng)中占據(jù)更加重要的地位。
”從“高門(mén)檻”到“開(kāi)箱即用”攜大模型一體機(jī)亮相
數(shù)據(jù)猿看到，會(huì)議現(xiàn)場(chǎng)，多家企業(yè)都展示了自己的大模型一體機(jī)。其中包括了聯(lián)想、燧原科技等，同泰怡也是其中之一。
值得關(guān)注的是，此次大模型一體機(jī)爆發(fā)背后，主要是受DeepSeek影響，及大模型小型化和算力小型化的發(fā)展趨勢(shì)，通過(guò)“軟硬協(xié)同、開(kāi)箱即用”的特性，滿足企業(yè)在專(zhuān)一的業(yè)務(wù)場(chǎng)景中，低成本使用大模型的需求，解決了企業(yè)AI部署中的數(shù)據(jù)安全、算力成本和場(chǎng)景適配三大痛點(diǎn)。
大模型一體機(jī)是一種集成了硬件、軟件和大模型法的綜合解決方案，為用戶提供個(gè)性化的智能計(jì)算設(shè)備。它通常包含CPU/GPU等算力組合、存儲(chǔ)器、操作系統(tǒng)、AI平臺(tái)軟件及各類(lèi)模型算法、推理服務(wù)等軟硬組件。
那同泰怡的大模型一體機(jī)有哪些特點(diǎn)？
據(jù)悉，此次同泰怡推出的基于鯤鵬模組與昇騰加速卡的全國(guó)產(chǎn)化工作站一體機(jī)，實(shí)現(xiàn)了從主板設(shè)計(jì)、操作系統(tǒng)到AI框架的完全自主創(chuàng)新，產(chǎn)品支持大模型的本機(jī)化部署，無(wú)需依賴(lài)外部網(wǎng)絡(luò)，可滿足敏感行業(yè)對(duì)數(shù)據(jù)“不出域”的嚴(yán)苛要求，可為政府、金融、能源等關(guān)鍵領(lǐng)域提供安全可靠的AI算力設(shè)備。針對(duì)國(guó)產(chǎn)化場(chǎng)景需求，同泰怡已構(gòu)建起覆蓋"輕量化"至"滿血版"大模型的全棧解決方案矩陣。滿足各行各業(yè)多樣化的定制需求。
展會(huì)現(xiàn)場(chǎng)，某團(tuán)隊(duì)評(píng)價(jià)：“在同等算力下，同泰怡的國(guó)產(chǎn)方案能完全適配國(guó)產(chǎn)操作系統(tǒng)生態(tài)，徹底解決了其長(zhǎng)期面臨的供應(yīng)鏈風(fēng)險(xiǎn)問(wèn)題。”
采訪中，馬澤介紹：“過(guò)去，使用AI技術(shù)往往依賴(lài)于昂貴的服務(wù)器，這使得許多個(gè)人用戶和中小企業(yè)望而卻步。而此次公司展出的DeepSeek一體機(jī)，它能夠在單機(jī)上進(jìn)行部署，公司更是精心打造了從7B、8B、14B、32B、70B到671B等多種不同規(guī)格的工作站，產(chǎn)品尺寸豐富多樣，可以根據(jù)不同的模型大小和應(yīng)用場(chǎng)景進(jìn)行靈活選擇。” 這一舉措，不僅降低了使用門(mén)檻，還拓展了其應(yīng)用場(chǎng)景，使更多用戶能夠享受到AI帶來(lái)的便利與高效。
其次，在企業(yè)級(jí)應(yīng)用方面，馬澤指出，個(gè)人用戶和企業(yè)用戶的需求存在一些差異。例如一個(gè)公司部門(mén)想要部署DeepSeek一體機(jī)時(shí)，就需要考慮與公司現(xiàn)有產(chǎn)品線的匹配度以及設(shè)備的性能穩(wěn)定性等問(wèn)題。由于企業(yè)級(jí)應(yīng)用通常部署在機(jī)房環(huán)境中，傳統(tǒng)的服務(wù)器架構(gòu)依然是主流選擇。為了滿足企業(yè)用戶的多樣化需求，同泰怡推出了一整套一體機(jī)解決方案，涵蓋了2卡、4卡、8卡以及集群方案等多種配置，為企業(yè)用戶提供了全方位、定制化的選擇，確保企業(yè)能夠在復(fù)雜的業(yè)務(wù)場(chǎng)景中高效穩(wěn)定地運(yùn)用AI技術(shù)，實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型和智能化升級(jí)。
針對(duì)大模型訓(xùn)練與推理對(duì)算力的極致需求，同泰怡此次還展出了多款不同形態(tài)的AI服務(wù)器。這些明星產(chǎn)品以卓越性能、穩(wěn)定可靠、高性?xún)r(jià)比的硬核實(shí)力，成為全球AI基礎(chǔ)設(shè)施領(lǐng)域的標(biāo)桿。
值得一提的是，除了此前已發(fā)布的4U4卡、4U8卡、7U8卡AI服務(wù)器等明星產(chǎn)品外，在本次大會(huì)展覽現(xiàn)場(chǎng)，同泰怡旗艦級(jí)訓(xùn)推一體AI服務(wù)器TG988V3為全球首次亮相，引人吸睛！該產(chǎn)品支持8個(gè)符合UBB2.0規(guī)范的高性能OAM GPU模組，支持第四代或第五代英特爾? 至強(qiáng)? 可擴(kuò)展處理器，具備性能卓越、擴(kuò)展性強(qiáng)、可靠性高等特點(diǎn)，適用于大規(guī)模分布式訓(xùn)練和推理、高性能計(jì)算、大模型一體機(jī)等應(yīng)用場(chǎng)景。
針對(duì)當(dāng)前大模型痛點(diǎn)，公司做了哪些技術(shù)創(chuàng)新？
近年來(lái)，隨著大規(guī)模人工智能模型的飛速發(fā)展，對(duì)于服務(wù)器的算力、散熱以及通信能力都提出了更高的要求。
針對(duì)當(dāng)前大模型遇到的痛點(diǎn)，同泰怡有哪些技術(shù)上的創(chuàng)新與提升？
馬澤詳細(xì)闡述道，其一，開(kāi)發(fā)基于OAM 2.0規(guī)范的服務(wù)器。區(qū)別于傳統(tǒng)模組服務(wù)器架構(gòu)的插卡方式，目前同泰怡的模組采用了解耦設(shè)計(jì)，擁有8個(gè)模組，8個(gè)GPU之間運(yùn)用了全互聯(lián)架構(gòu)，每個(gè)GPU都具備獨(dú)特的特性，從而顯著提升整體運(yùn)行效率。這種架構(gòu)不僅支持英偉達(dá)的HGX架構(gòu)和其他多種架構(gòu)，還能兼容國(guó)產(chǎn)GPU卡，有效降低了對(duì)特定GPU品牌的依賴(lài)，極大地提升了算力中心的靈活性。
其二，在散熱技術(shù)上，同泰怡采用了冷板式散熱和浸沒(méi)式液冷兩種方案。冷板式散熱通過(guò)直接接觸的方式將熱量迅速帶走，而浸沒(méi)式液冷則是將機(jī)器完全浸泡在液體中，以此來(lái)吸收熱量。通過(guò)這些技術(shù)手段，同泰怡致力于降低PUE值，提高整個(gè)機(jī)房的能效比，從而有效降低整體TCO成本。
馬澤進(jìn)一步指出，雖然冷板改造的成本大約是傳統(tǒng)風(fēng)冷的1.2倍，但從長(zhǎng)遠(yuǎn)來(lái)看，冷板技術(shù)可以顯著降低能耗，將PUE從原來(lái)的1.4降到1.2或者更低，為數(shù)據(jù)中心機(jī)房節(jié)省大量電費(fèi)等資金。而液冷技術(shù)則是未來(lái)的重要技術(shù)方向，液冷技術(shù)不僅能大幅降低能耗，還能使GPU或者CPU的性能發(fā)揮得更高。
但液冷技術(shù)有一重大難題，就是客戶改造成本太高。如果采用液冷技術(shù)，客戶的老舊機(jī)房，需要改造的不僅是服務(wù)器，還包括機(jī)房的供電設(shè)施，風(fēng)道以及機(jī)房的承重等基礎(chǔ)設(shè)施。“目前新建的機(jī)房大多采用液冷的技術(shù)路線，我們相信液冷未來(lái)將成為數(shù)據(jù)中心的標(biāo)配。”馬澤提到，液冷是公司的優(yōu)勢(shì)，也是目前在重點(diǎn)研究的難題。
隨著數(shù)字化浪潮席卷全球，各行業(yè)的應(yīng)用場(chǎng)景日益復(fù)雜多樣，從數(shù)據(jù)密集型的科研項(xiàng)目到實(shí)時(shí)性要求極高的工業(yè)自動(dòng)化生產(chǎn)，對(duì)計(jì)算、存儲(chǔ)資源的需求呈現(xiàn)爆發(fā)式增長(zhǎng)。為精準(zhǔn)匹配不同客戶的多元化訴求，同泰怡實(shí)施了全場(chǎng)景的產(chǎn)品布局與嚴(yán)謹(jǐn)?shù)臏y(cè)試覆蓋策略，產(chǎn)品涵蓋通用服務(wù)器、存儲(chǔ)服務(wù)器、人工智能服務(wù)器以及邊緣計(jì)算服務(wù)器四大核心品類(lèi)的產(chǎn)品體系。
在通用服務(wù)器領(lǐng)域，同泰怡覆蓋了Ｘ86和信創(chuàng)路線。打造了高性能、高可靠的通用算力平臺(tái)，使其能夠高效地承擔(dān)各類(lèi)通用計(jì)算任務(wù)，支撐金融、政務(wù)、電信等關(guān)鍵行業(yè)的數(shù)字化轉(zhuǎn)型。
存儲(chǔ)服務(wù)器則通過(guò)智能分層與全局均衡技術(shù)，實(shí)現(xiàn)書(shū)籍“存得下、跑得快、用得好”。
人工智能服務(wù)器領(lǐng)域，打造從訓(xùn)練到推理的全棧AI基礎(chǔ)設(shè)施，支撐千億級(jí)參數(shù)大模型落地。
邊緣計(jì)算服務(wù)器方面，在某些特定場(chǎng)景下，它可以實(shí)現(xiàn)本地?cái)?shù)據(jù)處理，無(wú)需依賴(lài)云端操作。完成本地測(cè)試后能夠加快整體數(shù)據(jù)處理速度并減少延遲，同時(shí)減輕云端服務(wù)器的壓力，形成云邊端協(xié)同的高效模式。總之，我們針對(duì)不同業(yè)務(wù)場(chǎng)景形成了相應(yīng)的機(jī)制，以四大產(chǎn)品的布局滿足市場(chǎng)需求。
據(jù)馬澤透露，目前公司的通用服務(wù)器與人工智能服務(wù)器的營(yíng)收占比最高。“隨著AI時(shí)代的興起，人工智能服務(wù)器的占比不斷增大，且增速較快。此外，AI服務(wù)器需要配備GPU卡，其價(jià)值比傳統(tǒng)服務(wù)器更高，進(jìn)一步推動(dòng)了營(yíng)收的增長(zhǎng)。”
據(jù)悉，此前同泰怡，還為科研機(jī)構(gòu)搭建服務(wù)器集，該集群的搭建成功，使研究效率方面有了大幅度提升，縮短了研發(fā)人員的計(jì)算推理所需要的工時(shí)。此外，還為某地公安搭建集群，超融合架構(gòu)集成了計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)可以顯著提高數(shù)據(jù)處理的效率，加快案件分析和決策過(guò)程。為某互聯(lián)網(wǎng)公司所搭建的服務(wù)器集群，優(yōu)化其計(jì)算架構(gòu)解決CPU性能瓶頸和GPU利用率不高的問(wèn)題，該集群的搭建使客戶的GPU架構(gòu)優(yōu)化性能提升2倍，成本節(jié)省30%。
展望未來(lái)，馬澤表示，公司也會(huì)緊跟技術(shù)發(fā)展趨勢(shì)，根據(jù)客戶需求不斷規(guī)劃和迭代產(chǎn)品。
破局“卡脖子”問(wèn)題，國(guó)產(chǎn)崛起進(jìn)行時(shí)
采訪中，馬澤也分享了他對(duì)市場(chǎng)機(jī)遇、挑戰(zhàn)以及未來(lái)發(fā)展趨勢(shì)的看法。
他認(rèn)為，當(dāng)前信創(chuàng)產(chǎn)業(yè)的蓬勃發(fā)展為公司帶來(lái)了前所未有的機(jī)遇。隨著中美科技戰(zhàn)的不斷加劇，信創(chuàng)產(chǎn)業(yè)已然成為國(guó)家發(fā)展的必由之路。無(wú)論是出于國(guó)家戰(zhàn)略考量還是其他因素，解決關(guān)鍵核心技術(shù)“卡脖子” 問(wèn)題迫在眉睫，這為國(guó)內(nèi)廠商提供了廣闊的市場(chǎng)空間。
據(jù)悉，同泰怡自2019年起便前瞻性地布局信創(chuàng)產(chǎn)品，目前其信創(chuàng)產(chǎn)品技術(shù)路線已全面涵蓋飛騰、海光、鯤鵬等，能夠滿足不同行業(yè)對(duì)信創(chuàng)的需求。
然而，機(jī)遇與挑戰(zhàn)并存。馬澤指出，國(guó)產(chǎn)GPU在性能和生態(tài)完整性方面與英偉達(dá)存在較大差距，這要求國(guó)內(nèi)廠商必須投入更多精力進(jìn)行國(guó)產(chǎn)GPU的研究與開(kāi)發(fā)。他提到，以英偉達(dá)H20芯片事件為例，馬澤認(rèn)為這只是英偉達(dá)為清理庫(kù)存、降低損失而采取的緩沖措施。“長(zhǎng)遠(yuǎn)來(lái)看，我們?nèi)孕鑸?jiān)持自主可控的發(fā)展路線，在國(guó)產(chǎn)GPU的研發(fā)上持續(xù)發(fā)力，以彌補(bǔ)與英偉達(dá)在性能和生態(tài)建設(shè)方面的差距。”
馬澤還提到，當(dāng)前國(guó)有企業(yè)的基礎(chǔ)設(shè)施在算力方面面臨諸多挑戰(zhàn)。主要表現(xiàn)在，一方面，各地建設(shè)的算力中心與行業(yè)應(yīng)用需求匹配度不高，導(dǎo)致算力資源未得到充分利用，利用率低至30%左右的情況時(shí)有發(fā)生。另一方面，國(guó)產(chǎn)化替代進(jìn)程緩慢，大部分?jǐn)?shù)據(jù)中心仍依賴(lài)英偉達(dá)等國(guó)外品牌，高端GPU芯片和高速網(wǎng)絡(luò)芯片的國(guó)產(chǎn)替代困難重重，國(guó)產(chǎn)芯片技術(shù)尚未成熟，產(chǎn)業(yè)鏈適配度和成熟度也有待提高。此外，在綠色低碳方面，液冷技術(shù)的推廣受限于成本，多數(shù)地區(qū)仍以傳統(tǒng)風(fēng)冷建設(shè)為主，且應(yīng)用軟件在各行業(yè)的落地應(yīng)用也尚處于起步階段。
展望未來(lái)，馬澤表示，同泰怡也將持續(xù)緊跟技術(shù)發(fā)展趨勢(shì)，依據(jù)客戶需求不斷規(guī)劃和迭代產(chǎn)品。無(wú)論是拓展國(guó)內(nèi)外市場(chǎng)，還是適配英偉達(dá)及國(guó)產(chǎn)GPU，同泰怡都將致力于為客戶提供穩(wěn)定、高性能的硬件底層平臺(tái)，并在此基礎(chǔ)上，結(jié)合客戶需求進(jìn)行模型和軟件的整體適配與調(diào)優(yōu)，助力客戶解決業(yè)務(wù)痛點(diǎn)，推動(dòng)業(yè)務(wù)順利轉(zhuǎn)型。
文：夢(mèng)蕓/ 數(shù)據(jù)猿
責(zé)編：凝視深空 / 數(shù)據(jù)猿
