Copyright 2017-2024 微學(xué)堂 版權(quán)所有 京ICP備18049689號(hào)-30
近日,聯(lián)想與國(guó)內(nèi)AI芯片廠商沐曦聯(lián)合發(fā)布基于DeepSeek 大模型的一體機(jī)解決方案。該方案以“聯(lián)想服務(wù)器/工作站+沐曦訓(xùn)推一體GPU+自主算法”為核心架構(gòu),主要產(chǎn)品包括面向DeepSeek智能體部署的一體機(jī)、DeepSeek模型訓(xùn)推理練一體機(jī)。
據(jù)官方介紹,面向DeepSeek智能體部署的一體機(jī)采用ThinkStation PX工作站為載體,搭載沐曦曦思N260 GPU。實(shí)測(cè)數(shù)據(jù)顯示,在相同并發(fā)條件下,沐曦曦思N260 GPU應(yīng)用在阿里通義千問(wèn)開源模型Qwen2.5-14B模型(140億參數(shù))推理實(shí)測(cè)性能達(dá)到了英偉達(dá)推理GPU產(chǎn)品L20 GPU 的110%-130%, 可支持本地部署DeepSeek各種參數(shù)蒸餾模型推理。
另一款面向更廣泛場(chǎng)景的DeepSeek模型訓(xùn)推一體機(jī),基于聯(lián)想問(wèn)天WA5480 G3 AI服務(wù)器,搭載8張沐曦曦云C500專業(yè)GPU,可為大模型訓(xùn)練和推理提供算力支撐