jhzhang/rag
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

fix: INTENT_MAX_TOKENS 从 1024 提升至 2048，适配推理模型思考链预算

Browse Source 
mimo-v2.5 推理模型思考链消耗 ~800-1000 tokens，原 1024 不够导致
content 为空、全部输出进入 reasoning_content，引发 JSON 数组格式
解析错误。2048 可确保思考链 + JSON 输出均有足够空间。
This commit is contained in:
lacerate551
2026-06-21 23:30:31 +08:00
parent e761af6111
commit 789610d01f
1 changed files with 1 additions and 1 deletions
Download Patch File Download Diff File Expand all files Collapse all files

2
config.py
View File

@@ -105,7 +105,7 @@ LLM_MAX_TOKENS = 3000 # 最大输出 token 数（推理模型思考
# ----- 意图分析（轻量、确定性高）----- # ----- 意图分析（轻量、确定性高）-----
# INTENT_MODEL 在顶部「一、API 密钥与模型」中统一配置 # INTENT_MODEL 在顶部「一、API 密钥与模型」中统一配置
INTENT_TEMPERATURE = 0.1 INTENT_TEMPERATURE = 0.1
INTENT_MAX_TOKENS = 1024 # 非推理模型无需思考链预算，JSON 输出 1024 足够 INTENT_MAX_TOKENS = 2048 # 推理模型需思考链预算（~1000 tokens），JSON 输出 ~200 tokens
INTENT_HISTORY_WINDOW = 6 # 分析时取最近几条历史消息 INTENT_HISTORY_WINDOW = 6 # 分析时取最近几条历史消息
# ============================================================================== # ==============================================================================