Site logo

支持平台部署!金山雲(KC.US)完成基于國産芯片的DeepSeek滿血版適配

時間2025-03-07 17:05:12

下載霸財智贏APP,買賣點即市預警,炒家心水交流 >>

近日,金山雲完成基于國産芯片的DeepSeek滿血版適配。同時,金山雲星流訓推平台也已完成DeepSeek滿血版的部署,且支持多機部署實現分布式推理。

通過提供穩定且強大的算力支持,金山雲能助力模型充分發揮其性能優勢,使得其在自然語言處理、智能問答、文本生成等多個領域表現優秀,這將爲用戶帶來更強大、更高效的人工智能體驗。

裸金屬服務器部署步驟

金山雲在搭載國産GPU的裸金屬機型上進行了適配,公司提供已預裝好包含 DeepSeek滿血版和所有依賴環境的自定義鏡像,用戶只需在金山雲裸金屬服務器控制台選擇地域與機型、選定內置DeepSeek滿血版的自定義鏡像、配置網絡與安全、設置基本信息並確認配置後,即可輕松完成部署。

1.金山雲裸金屬服務器控制台創建入口

image.png

2.金山雲裸金屬服務器控制台創建流程,選擇內置DeepSeek滿血版的自定義鏡像創建

image.png

創建完成後,開發者和企業一鍵啓動模型就能立即投入使用,大大降低了模型的使用門檻。這不僅能讓更多開發者和企業快速享用DeepSeek滿血版的強大功能,還將加速人工智能項目的落地與應用。

經過測試和驗證,DeepSeek滿血版在搭載國産GPU的裸金屬機型上于多個領域都展現出了不凡的性能。在智能客服場景中,能夠快速理解用戶的複雜問題,並給出准確且人性化的回答。與其他同類模型相比,在語義理解的准確性和文本生成的流暢性方面都具有明顯優勢,爲各行業的智能化升級提供了有力支持。

金山雲星流訓推平台多機部署步驟

爲加速企業AI規模化落地,金山雲推出了模型在線服務功能,提供從模型部署到調用的服務能力。聚焦高效部署與分布式推理協同,該平台可通過智能任務調度與跨節點並行計算,實現模型的高效推理。無需複雜配置,用戶即可在公有雲環境構建穩定、高性價比的模型服務。

此前金山雲星流訓推平台已支持DeepSeek蒸餾版的部署,現支持多機部署DeepSeek滿血版,可實現分布式推理。

多機部署步驟詳情如下:

1. 進入算力平台控制台並創建資源池

2. 進入模型在線服務導航頁

3. 點擊新建,創建模型在線服務

a. 選擇R1或V3模型,平台默認勾選多機部署,用戶可自主配置服務副本數以及多機部署的節點數量

b. 填寫基本信息、資源、網絡等配置

c. 點擊確認,模型開始部署

image.png

4. 調用模型服務。模型部署成功後,即可對模型進行調用,金山雲當前支持接口和WebUI兩種調用方式,相應的調用操作流程如下:

a. 接口調用,詳細步驟見 https://mp.weixin.qq.com/s/K8tt3b7DB30r0yz7Pq9vmA

b. WebUI調用,模型部署成功後點擊模型名稱進入模型概覽頁,點擊訪問WebUI即可通過WebUI形式實現模型調用

首次進入WebUI頁面需注冊用戶賬號,注冊完成後登錄即可使用界面實現調用。

image.png

免責聲明:本資訊不構成建議或操作邀約,市場有風險,投資需謹慎!