如何在Windows 11中使用DeepSeek V3 Coder?

如果你想學習如何在 Windows 11 中使用 DeepSeek V3 Coder,這篇文章將為您提供指導。 DeepSeek-V3 Coder 是 DeepSeek-V3 型號的專門版本。它利用自然語言處理和先進的機器學習技術來理解和產生程式碼、提供程式設計幫助並幫助使用者完成軟體開發任務。

如何在Windows 11中使用DeepSeek V3 Coder?

DeepSeek V3 Coder 適合希望提高編碼技能或簡化軟體開發流程的人。如果你想在 Windows 11 中使用 DeepSeek V3 Coder,您可以透過以下方式存取它線上演示平台,應用程式介面服務,或下載模型權重本地部署。讓我們看看如何。

1]透過網頁瀏覽器存取DeepSeek-V3 Coder

啟動您最喜歡的瀏覽器,輸入www.deepseekv3.com,然後按 Enter。您將被重定向到 DeepSeek 的官方網站。點擊“嘗試 DeepSeek V3' 按鈕位於右上角。

您將看到 DeepSeek 的聊天介面。在聊天輸入框中輸入您的查詢,然後按進入。 DeepSeek V3 將快速為您產生回應。

註冊 DeepSeek 即可存取進階功能或進階選項,例如儲存聊天記錄或自訂首選項。

類型聊天.deepseek.com在瀏覽器的網址列中,然後按進入。接下來,註冊 DeepSeek 帳戶。登入後,您將看到基於最新 DeepSeek-V3 模型的聊天介面。您可以使用該介面輸入編碼查詢、產生程式碼或偵錯程式。

2]透過API存取DeepSeek-V3 Coder

若要在 Windows 11 上透過 API 存取 DeepSeek-V3 模型,請依照下列步驟操作:

在 DeepSeek 平台上註冊帳戶以接收您的 API 金鑰。

下載並,如果尚未安裝。在安裝過程中,請確保已選取該複選框將 python.exe 加入到 PATH(如果Python已新增至PATH中,您只需鍵入python或者pip在任何終端機視窗中,系統都會知道在哪裡可以找到Python解釋器或套件管理器。如果不將 Python 新增至 PATH,則每次要執行 Python 命令時,都需要導航至安裝 Python 的特定目錄)。

接下來,安裝適當的 SDK。

DeepSeek API 使用 OpenAI 相容的 API 格式,因此您可以使用 OpenAI SDK 或任何 OpenAI API 相容的軟體存取 DeepSeek API。若要安裝 OpenAI SDK,請開啟命令提示字元並執行以下命令:

pip install openai

設定開發環境後,配置 API 訪問,同時將基本 URL 設定為:

'https://api.deepseek.com'

然後透過API呼叫來存取DeepSeek V3模型。以下是與 DeepSeek V3 模型互動的 Python 範例:

from openai import OpenAI

client = OpenAI(api_key="<DeepSeek API Key>", base_url="https://api.deepseek.com")

response = client.chat.completions.create(
model="deepseek-chat",
messages=[
{"role": "system", "content": "You are a helpful assistant"},
{"role": "user", "content": "Hello"},
],
stream=False
)

print(response.choices[0].message.content)

筆記:

  1. 型號名稱 deepseek-chat將呼叫 DeepSeek V3。
  2. 透過設定啟用串流媒體'stream=true'。串流非常適合即時回應場景。

3]透過本地部署存取DeepSeek-V3 Coder

在本地部署 DeepSeek V3 涉及下載模型權重並設定必要的環境。然而,並沒有專門為在 Windows 11 上本地部署模型而定制的 DeepSeek V3 官方文件。可用的部署指南主要集中於Linux環境,特別是Ubuntu 20.04 或更高版本

對於在 Windows 11 上本機部署 DeepSeek-V3 Coder,您可以在 Windows 系統中建立類似 Linux 的環境。

在繼續之前,請確保您的系統符合以下最低硬體和軟體要求:

  • 圖形處理器:支援 CUDA 的 NVIDIA GPU(例如 RTX 30xx 系列或更高版本)。
  • Python:3.8 或更高版本。
  • 記憶:至少 16GB RAM(建議 32GB)。
  • CUDA 和 cuDNN:安裝與 DeepSeek V3 依賴項相容的版本。

現在請依照下列步驟操作:

克隆 DeepSeek V3 儲存庫:

git clone https://github.com/deepseek-ai/DeepSeek-V3.git

導航到推理目錄並安裝中列出的依賴項requirements.txt:

cd DeepSeek-V3/inference
pip install -r requirements.txt

下一個,下載模型權重抱臉並將它們放入/path/to/DeepSeek-V3資料夾。

接下來,將模型權重轉換為特定格式:

python convert.py --hf-ckpt-path /path/to/DeepSeek-V3 --save-path /path/to/DeepSeek-V3-Demo --n-experts 256 --model-parallel 16

現在,您可以與 DeepSeek-V3 聊天或對給定文件進行批量推理。

就是這樣!我希望你覺得這很有用。

讀:

DeepSeek 是免費的嗎?

DeepSeek 提供對某些型號的免費訪問,使用戶無需立即付費即可體驗其功能。其他型號則以付費方式運行,費用根據使用情況而定。最新模型 DeepSeek-V3 的定價結構為每百萬個輸入代幣 0.14 美元,每百萬個輸出代幣 0.28 美元(DeepSeek-V3 定價持續折扣,直至 2025 年 2 月 8 日)。

DeepSeek Coder V2 需要什麼 GPU?

由於模型尺寸較大且複雜,部署 DeepSeek-Coder-V2 需要大量 GPU 資源。對於 BF16 (bfloat16) 格式的推理,該模型需要 8 個 GPU,每個 GPU 配備 80 GB 記憶體。

閱讀下一篇: