4. 金融领域Embedding模型选型
在金融RAG系统中，Embedding模型决定了“问题”与“知识”能否在向量空间中正确相遇。选错模型，后续的重排、生成再强也难以补救。本节围绕通用模型与金融微调模型的差异，梳理BGE、M3E、FinBERT等主流方案，并给出领域适配策略与评估指标。
一、核心原理：通用语义与金融语义的错位
通用Embedding模型（如BGE-base、M3E-base）在海量通用语料上训练，擅长日常语义相似度，但对金融术语的“同义不同词、同词不同义”现象敏感度不足。例如“回撤”与“最大回撤”、“久期”与“修正久期”、“看涨”与“认购”，在通用空间中距离可能较远；而“苹果”在消费电子与水果语境下，通用模型往往无法区分。
金融微调模型（如FinBERT系列、金融领域BGE微调版）通过在研报、公告、财报、监管文件上继续训练，使向量空间向金融语义对齐。其本质是调整嵌入空间的度量结构：让“利空”靠近“下跌风险”，让“流动性宽松”靠近“降准降息”，同时拉开“多头”与“空头”的距离。
二、主流模型对比与选型清单
| 模型 | 类型 | 维度 | 金融适配 | 适用场景 |
|---|---|---|---|---|
| BGE-base-zh | 通用中文 | 768 | 中 | 通用问答、公告检索基线 |
| BGE-large-zh | 通用中文 | 1024 | 中高 | 高精度召回、算力充足 |
| M3E-base | 通用中文 | 768 | 中 | 轻量部署、快速验证 |
| FinBERT | 金融微调 | 768 | 高 | 情感分析、金融文本分类 |
| 金融BGE微调版 | 领域微调 | 768/1024 | 高 | 研报、公告、监管问答 |
需要强调：FinBERT原生定位是金融文本分类与情感分析，并非为检索式Embedding设计。若直接拿FinBERT的[CLS]向量做检索，效果往往不如BGE。正确做法是将其作为领域预训练底座，再用对比学习（如MultipleNegativesRankingLoss）在金融句对上微调。
三、领域适配策略：从零成本到高投入
- 零样本直接使用：先用BGE-base或M3E-base跑通基线，记录Recall@10、MRR，作为后续对比锚点。
- 查询改写与同义词扩展：在检索前将“降息”扩展为“下调利率、宽松政策”，弥补通用模型对术语的盲区，成本低、见效快。
- 领域微调：构造金融句对（问题-答案、标题-正文、公告-摘要），用对比学习微调BGE。建议正样本来自同一文档，负样本用in-batch negatives加难负样本挖掘。
- 混合检索：向量检索与BM25关键词检索融合，金融术语的精确匹配由BM25兜底，语义泛化由Embedding负责。
# 金融领域微调BGE的关键配置示例
model_name: BAAI/bge-base-zh-v1.5
loss: MultipleNegativesRankingLoss
batch_size: 64
epochs: 3
learning_rate: 2e-5
warmup_ratio: 0.1
max_seq_length: 256
hard_negatives: true
train_data: finance_qa_pairs.jsonl # 问题-答案、公告-摘要句对四、评估指标与常见误区
选型不能只看“感觉像”，必须用指标说话。检索阶段核心指标包括：
- Recall@K：前K个结果中是否包含正确文档，衡量召回能力。
- MRR：第一个正确结果排名的倒数均值，衡量排序质量。
- NDCG@K：考虑相关性等级的排序质量，适合多级标注。
- Hit Rate：至少命中一个正确文档的查询比例。
常见误区有三：其一，用通用问答集评估金融模型，指标虚高却无法反映真实业务；其二，只测Embedding不测重排，忽略两阶段协同；其三，微调后未做回归测试，导致通用查询能力下降。建议建立“金融测试集+通用测试集”双轨评估，微调后两者都要看。
复盘一个真实场景：某团队直接用FinBERT的[CLS]向量做公告检索，Recall@10仅0.42；换成BGE-base后升至0.61；再用金融句对微调BGE，配合BM25混合检索，最终达到0.78。这说明领域适配不是“换一个模型”那么简单，而是“底座+微调+混合+重排”的系统工程。
总结选型原则：先基线、再微调、后混合；先指标、再上线、持续回归。通用模型是起点，金融微调是加速器，评估指标是方向盘，三者缺一不可。