Copyright 2017-2024 微學(xué)堂 版權(quán)所有 京ICP備18049689號(hào)-30
本地部署的原因
選擇本地部署AI大模型DeeSeek主要有以下幾點(diǎn)原因：
數(shù)據(jù)隱私與合規(guī)性保障： 本地部署允許控制數(shù)據(jù)的收集、存儲(chǔ)和使用，確保符合相關(guān)法律法規(guī)，保護(hù)用戶和企業(yè)的隱私信息不被泄露或?yàn)E用。
高效資源管理： 避免了云服務(wù)帶來(lái)的計(jì)算資源分配不均和延遲問(wèn)題，可以根據(jù)實(shí)際需求靈活調(diào)整資源，提高處理效率。
成本控制： 自有服務(wù)器的資源使用更為靈活，降低了運(yùn)營(yíng)成本，避免了因云服務(wù)產(chǎn)生的額外費(fèi)用，如帶寬、存儲(chǔ)和計(jì)算資源的高支出。
快速響應(yīng)與創(chuàng)新： 本地部署能夠更快地進(jìn)行模型優(yōu)化和迭代，適應(yīng)市場(chǎng)需求的變化，促進(jìn)技術(shù)進(jìn)步和服務(wù)質(zhì)量的提升。
綜上所述，本地部署AI大模型DeeSeek是經(jīng)過(guò)權(quán)衡后的一個(gè)明智選擇，能夠在數(shù)據(jù)安全、資源管理、成本控制等方面為未來(lái)發(fā)展奠定良好基礎(chǔ)。
開(kāi)始部署
注：部署耗時(shí)約30分鐘。
分為3步：
下載并安裝ollama
下載開(kāi)源大模型deepseek
下載并安裝開(kāi)源webUI
下載并安裝ollama
下載地址：https://ollama.com/
安裝ollama
安裝好后啟動(dòng)ollama，系統(tǒng)右下角會(huì)出現(xiàn)ollama圖標(biāo)：
下載deepseek模型
我們找到阿里的deepseek大模型，選擇7b的：
復(fù)制上面這段代碼
ollama run deepseek-r1
在電腦上，按：窗口鍵+R，打開(kāi)運(yùn)行窗口，如下圖：
輸入：cmd后按回車(chē)鍵，打開(kāi)命令提示符窗口，如下圖所示：
將下面的代碼塊，復(fù)制粘貼到，命令提示符窗口中，按回車(chē)
ollama run deepseek-r1
等待幾秒鐘后，顯示如下內(nèi)容，即安裝成功了。