軟程科技附步驟如下:
第一步:進入 Model Gallery 頁面
點擊鏈接:https://pai.console.aliyun.com/#/quick-start/ models 登陸 PAI 控制臺,在頂部左上角根據(jù)實際情況選擇地域。并在左側導航欄選擇工作空間列表,單擊指定工作空間名稱,進入對應工作空間內(nèi)。最后在左側導航欄選擇快速開始 > Model Gallery。
第二步:進入 DeepSeek 模型詳情頁
在 Model Gallery 頁面的模型列表中,單擊找到并點擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進入模型詳情頁面。
第三步:一鍵部署 DeepSeek 模型生成服務
單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務,生成一個 PAI-EAS 服務。
部署成功后,在服務頁面可以點擊“查看調(diào)用信息”獲取調(diào)用的 Endpoint 和 Token,想了解服務調(diào)用方式可以點擊預訓練模型鏈接,返回模型介紹頁查看調(diào)用方式說明。
需要注意的是,阿里云官方教程部署的模型為蒸餾過后的 DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理能力,通過蒸餾技術將推理模式遷移到了較小的 Qwen 模型上。同時,阿里云 PAI Model Gallery 也提供 DeepSeek-R1、DeepSeek-V3 原始模型的一鍵部署。
據(jù)軟程科技此前報道,Gitee AI 聯(lián)合沐曦首發(fā)全套 DeepSeek R1 千問蒸餾模型,支持全免費體驗。秘塔 AI 秘塔 AI 已官宣接入滿血版 DeepSeek R1 推理模型。另外,DeepSeek-R1 大模型登陸騰訊云,宣稱“一鍵部署、3 分鐘調(diào)用”
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,軟程科技所有文章均包含本聲明。