更多讲座
讲座深入

小模型,大效果:用不到 500 美元训练一个金融智能体 — Charles Dickens,Snorkel AI

Small Models, Big Results: Training a Finance Agent for Under $500 — Charles Dickens, Snorkel AI

AI 导读

这是 Snorkel AI 研究科学家 Charles Dickens 的演讲,介绍 Snorkel 与 UC Berkeley Sky Computing Lab 如何用不到 500 美元训练一个 40 亿参数模型,在真实金融问题上超过 2350 亿参数的同类模型。内容包括:基于 SEC 10-K 文件构建并专家校验的 FinQA 金融问答数据集;前沿模型的失败模式,如编造表结构、塞爆自身上下文、重复失败策略;使用开源 rLLM 框架和简单通过/失败奖励做强化学习,使 Qwen3 4B 达到约 60%、对比 235B 的 51%;技能可迁移到更难的多表问题且未损害通用工具使用;以及更简单的训练数据和奖励效果最好、瓶颈在于有纪律的工具使用而非推理深度。适合对用小模型做领域后训练和强化学习感兴趣的读者观看。

分级
值得看
收录时间
2026-11-02