在人工智能蓬勃發(fā)展的當(dāng)下,DeepSeek 等大模型正引領(lǐng)著行業(yè)變革,為千行百業(yè)帶來前所未有的機(jī)遇與挑戰(zhàn)。大模型的訓(xùn)練與推理對計算能力提出了極為嚴(yán)苛的要求,需要強(qiáng)大的硬件基礎(chǔ)設(shè)施作為支撐。
而AI服務(wù)器,作為AI應(yīng)用的“幕后英雄”,其性能、穩(wěn)定性及可擴(kuò)展性直接決定了AI技術(shù)的實(shí)戰(zhàn)能力和應(yīng)用場景的廣度。隨著AI技術(shù)的不斷深入,企業(yè)對AI服務(wù)器的要求也越來越高,這無疑給服務(wù)器產(chǎn)品技術(shù)的創(chuàng)新升級注入了強(qiáng)大的動力。市場需求逐漸明晰,大模型推理行業(yè)迫切渴望得到能夠提供強(qiáng)大算力并且最具性價比、可靠穩(wěn)定、可管理的服務(wù)器產(chǎn)品。
為了應(yīng)對這一變革,解決實(shí)際應(yīng)用中的棘手問題,并滿足市場的迫切需求,同泰怡憑借深厚的技術(shù)底蘊(yùn)與創(chuàng)新精神,不斷進(jìn)行產(chǎn)品迭代更新,推出全新一代TG678V3和TG679V3雙平臺7U8卡AI服務(wù)器,旨在為大模型推理等復(fù)雜AI工作負(fù)載場景提供更高效、更可靠、更具擴(kuò)展性和高性價比的計算平臺。
TG678V3:Intel平臺的算力先鋒
TG678V3 服務(wù)器支持Intel第四代或第五代英特爾? 至強(qiáng)? 可擴(kuò)展處理器,35度環(huán)溫下可同時支持兩顆385W CPU+8張600W PCIe5.0 x16 GPU卡,實(shí)現(xiàn)了 CPU 算力、PCIe 速率以及內(nèi)存帶寬的全面升級,能夠充分釋放 GPU 的強(qiáng)大算力,為 DeepSeek 等大模型的訓(xùn)練與推理任務(wù)提供堅實(shí)的基礎(chǔ)。其創(chuàng)新的 CPU-GPU 直通設(shè)計,有效降低了數(shù)據(jù)傳輸延遲,相較于傳統(tǒng)的 PCIe Switch 架構(gòu),大幅提升了數(shù)據(jù)傳輸效率,確保了計算過程的流暢性與高效性。輕松應(yīng)對大模型計算中的復(fù)雜任務(wù)。
在擴(kuò)展性方面,TG678V3 最多支持 11 個 PCIe 5.0 標(biāo)準(zhǔn)插槽,可靈活配置多種 PCIe 設(shè)備,滿足不同應(yīng)用場景的需求。同時,它還支持 8 個 3.5"/2.5" SAS/SATA 硬盤,并可選配 2/4 個 NVMe SSD,兼顧了大容量數(shù)據(jù)存儲與高性能讀寫需求,為大模型的數(shù)據(jù)處理提供了充足的存儲空間。
TG678V3采用上下風(fēng)道隔離的散熱設(shè)計并配備智能管理系統(tǒng),確保了服務(wù)器的穩(wěn)定運(yùn)行和高效管理,是高性能計算和大規(guī)模數(shù)據(jù)處理的理想選擇。
TG679V3 基于 AMD EPYC? 9004/9005 系列處理器,可以同時支持Genoa和Turin全系列CPU,35度環(huán)溫下可支持500W CPU+8張600W PCIe5.0 x16 GPU卡,為大模型計算提供了強(qiáng)大的異構(gòu)算力支持。其 CPU-GPU 直通設(shè)計與 TG678V3 一樣,有效提升了數(shù)據(jù)傳輸效率,降低了延遲,確保了計算的高效性。
在擴(kuò)展性方面,TG679V3 最多支持 11 個 PCIe 5.0 標(biāo)準(zhǔn)插槽,可選配 1 個 OCP 3.0 網(wǎng)卡,滿足不同網(wǎng)絡(luò)需求。在散熱方面,CPU風(fēng)道與GPU風(fēng)道采用隔離設(shè)計優(yōu)化,有效提升散熱效能,確保設(shè)備穩(wěn)定運(yùn)行。
系統(tǒng)穩(wěn)定性和智能管理方面,TG679V3 與 TG678V3 一樣,具備系統(tǒng)關(guān)鍵部件冗余、熱插拔設(shè)計,以及集成智能管理芯片,支持多種管理協(xié)議和功能,確保了系統(tǒng)的穩(wěn)定運(yùn)行和便捷管理。
性能強(qiáng)勁:完美支持最新主流GPU
同泰怡擁有成熟嚴(yán)謹(jǐn)產(chǎn)品研發(fā)體系,對于結(jié)構(gòu)設(shè)計,散熱設(shè)計等服務(wù)器產(chǎn)品研發(fā)流程積累了豐富的研發(fā)經(jīng)驗(yàn),能根據(jù)市場需求定制化研發(fā)設(shè)計各類滿足要求的AI服務(wù)器;同時,TG679V3、TG678V3實(shí)測適配當(dāng)下主流4卡槽GPU,最大支持600W,能對包括主流GPU在內(nèi)的各類場景提供產(chǎn)品解決方案。適用于人工智能、大模型推理、圖形渲染、云游戲等多種應(yīng)用場景。
這一系列產(chǎn)品不僅滿足了市場對于高性能AI服務(wù)器的迫切需求,同時也體現(xiàn)了同泰怡在技術(shù)創(chuàng)新和AI服務(wù)器領(lǐng)域?qū)I(yè)知識的深度積累,進(jìn)一步充實(shí)了同泰怡的產(chǎn)品線。每一款產(chǎn)品更新都凝聚了當(dāng)前對產(chǎn)品技術(shù)的創(chuàng)新期望,它們整合了最新的處理器技術(shù)、優(yōu)化的擴(kuò)展管理方案以及先進(jìn)的部件功能,確保能夠有效支撐起當(dāng)下及未來AI應(yīng)用的各種需求。
在全球數(shù)字經(jīng)濟(jì)的大背景下,同泰怡的這一系列產(chǎn)品,不僅為企業(yè)用戶提供了多樣化的選擇,也為行業(yè)的持續(xù)創(chuàng)新和發(fā)展注入了新的活力,助力各產(chǎn)業(yè)實(shí)現(xiàn)智能化升級,推進(jìn)社會的數(shù)字化轉(zhuǎn)型進(jìn)程。