lacerate551
|
ee5295cc97
|
fix(parser): PDF/DOCX 切片层级结构修复与 MinerU V2 解析增强
核心修复：
- _post_process_chunks: 用 _buffer_has_body 标志替代 buffer.text_level=0，
标题+正文合并后保留 text_level 不置零，修复层级信息丢失
- heading_rules numeric_level2: 正则从 ^\d+\.\d+[\.、\s] 改为
^\d+\.\d+(?!\.\d)，修复无空格标题如"2.1运行调度"无法匹配
- V2 title handler: heading_rules 优先（模式匹配可靠），VLM 仅兜底
（VLM 常给所有标题 level=1）
MinerU V2 解析增强：
- 两轮 TOC 过滤：多行目录块检测 + 孤立标题/单字符残留清理
- 封面 logo 过滤、重复标题去重
- chart VLM 描述和 Markdown 数据表提取
- ChromaDB metadata 新增 text_level/bbox/table_type/sub_type 字段
配置调整：
- CLUSTER_SECTION_PREFIX_LEVELS 1→2（两级 section 聚类更精确）
- MINERU_LOCAL_BACKEND 默认改为 pipeline
文档：
- RAG检索流程逻辑.md 更新 MinerUChunk 字段、ChromaDB metadata、
MinerU 解析策略等章节
- 新增 RAG引用跳转-优化计划.md、云端MinerU输出分析与优化方案.md
|
2026-06-19 23:56:13 +08:00 |
|
lacerate551
|
e205eda6a8
|
fix(config): 修复 MINERU_PREFER_ONLINE 逻辑反直觉 + 默认模型改为 vlm
- MINERU_PREFER_ONLINE: == "false" 恒 False → == "true" 正确启用在线 API
- MINERU_MODEL_VERSION: pipeline → vlm（高精度模式）
|
2026-06-19 15:29:12 +08:00 |
|
lacerate551
|
95f3b99064
|
fix(rag): BM25 分歧救援 source 一致性校验 + 意图分析 max_tokens 修复
1. _rescue_bm25_divergence 情况 B 注入前校验 source 与 contexts 多数 source 一致，
防止跨文档注入无关切片（如 2.docx 吸烟场所切片混入 1.docx 投放查询）
2. INTENT_MAX_TOKENS 从 2048 提升至 4096，修复 mimo-v2.5 思维链截断导致意图分析偶发失败
评测 R2+ 结果：overall 4.35（基线 4.20），忠实度 +0.24，幻觉率不变
|
2026-06-19 14:39:16 +08:00 |
|
lacerate551
|
4fd53f48f9
|
chore: 死代码清理与标注
- 删除 chat_routes.py 中未被使用的 reciprocal_rank_fusion 函数（engine 有同功能方法平替）
- 删除 search_hybrid 中无效的 candidates 参数（未传递给 engine，实际由 RERANK_CANDIDATES 控制）
- 标注 RAG_SEARCH_CANDIDATES 为死代码
- 标注 VECTOR_WEIGHT/BM25_WEIGHT 在动态 RRF 启用时被覆盖
- 标注 llm_budget.py 模块当前未集成到主流程
- 标注 MAX_LLM_CALLS_PER_QUERY/MAX_QUERY_REWRITES 暂不生效
|
2026-06-17 20:04:49 +08:00 |
|