跳到主要内容
版本:v0.8.2

DeepSeek

配置 DB-GPT 使用 DeepSeek 的语言模型进行聊天与推理。

前置条件​

安装依赖​

uv sync --all-packages \
--extra "base" \
--extra "proxy_openai" \
--extra "rag" \
--extra "storage_chromadb" \
--extra "dbgpts"
Embedding 模型

DeepSeek 本身不提供 embedding 模型。默认配置使用 HuggingFace embedding 模型(BAAI/bge-large-zh-v1.5)。如果使用该方案,还需要额外安装:

uv sync --all-packages \
--extra "base" \
--extra "proxy_openai" \
--extra "rag" \
--extra "storage_chromadb" \
--extra "dbgpts" \
--extra "hf" \
--extra "cpu"

配置方式​

编辑 configs/dbgpt-proxy-deepseek.toml:

[models]
[[models.llms]]
name = "deepseek-v4-pro"
provider = "proxy/deepseek"
api_key = "your-deepseek-api-key"
# 为严格的 ReAct 输出解析关闭 V4-Pro 思考模式。
thinking_enabled = false

[[models.embeddings]]
name = "BAAI/bge-large-zh-v1.5"
provider = "hf"
# Uncomment to use a local model path:
# path = "models/bge-large-zh-v1.5"

可用模型​

模型配置名说明
DeepSeek-V4-Prodeepseek-v4-pro1M 上下文,适合高级推理、代码与 Agent 任务
DeepSeek-R1deepseek-reasoner推理能力强,适合复杂思考任务
DeepSeek-V3deepseek-chat通用聊天与问答

ReAct Agent 使用 deepseek-v4-pro 时建议保留 thinking_enabled = false。 DeepSeek V4-Pro 默认开启思考模式,可能在严格的 Thought/Action/Action Input 输出格式前产生推理块,导致解析失败。

DeepSeek 官方接口不支持在思考模式下使用 tool_choice="required" 或指定工具。 DeepSeek 提供方会在发送这类请求前自动关闭思考,保留原有工具选择, 即使设置了 thinking_enabled = true 也会执行该协议适配;其他请求沿用原有思考配置。 同一官方提供方下切换模型无需额外配置。

该适配仅用于 DeepSeek 提供方且实际接口地址为 api.deepseek.com 的请求。 其他提供方和第三方接口保持原行为,工具调用能力以各自接口协议为准。

启动服务​

uv run dbgpt start webserver --config configs/dbgpt-proxy-deepseek.toml

故障排查​

问题解决方法
AuthenticationError到 platform.deepseek.com 检查 API key 是否正确
Embedding 下载慢预先下载模型,或使用镜像源(如 UV_INDEX_URL)
Embedding 内存不足增加 --extra "cpu",让 embedding 在 CPU 上运行

下一步​