← 返回列表

新工具 Hugging Face · LiquidAI

用 transformers 跑 LFM3-1.7B，本地得到可调工具的文本回答

用几行 transformers pipeline 代码加载 LFM3-1.7B，输入一条问题就得到本地生成的回答，可作为边缘 agent 与领域微调的起点。

开始尝试

效果

博客给出可照着运行的代码片段与一张架构示意图，并链接了一个 demo 视频；原站没有结果截图。

这是什么

新在哪里：以前本地小模型要分别找文本、视觉、音频几个不同模型；现在六个 2B 级模型从同一个 LFM3-1.7B-Base 骨干分支，文本模型 4-bit 约 1 GB，同一套 transformers 写法即可运行。

怎么做到的：先 pip install -U transformers 装最新版，再用 pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True) 加载模型，把 messages 列表传给 generator，设置 do_sample、temperature、top_k、repetition_penalty、max_new_tokens，最后打印 generated_text 的最后一条 content。

适合谁
会写一点 Python、想在本地或单卡上跑 2B 级小模型的开发者。
能帮你
用一个共享骨干、一套 transformers 写法，就能本地运行文本模型，并按自己数据单卡微调。

评分 三项分开看，不合成总分；热度不等于好用

新颖性
全新做法 · 2026-10-27 出现
热度
未知
易上手
需要一些准备
怎么评的

三项都由本站记录的事实按固定规则算出，编辑不能直接改档位；规则改动会写进更新说明。

新颖性

  • ●●● 全新做法，且有来源依据的出现时间在最近 30 天内
  • ●●○ 老工具新用法或近期刚开放，且有来源依据的时间在最近 30 天内
  • ●○○ 出现时间超过 30 天、未核实到精确日期，或已不再是新做法
  • 其他 出现时间未核实、晚于今天，或新颖类型未核实时按最低一档处理，不靠猜测加分

热度

  • ●●● 最近一次每周人工确认为“热门”：最近 14 天里独立讨论、实际案例、持续时间、传播平台、相对关注五项门槛全部满足（规则 heat-v1）
  • ●●○ 最近一次人工确认为“观察中”：前三项至少一项达到，或讨论增长 ≥ 50%，且至少 2 个独立案例
  • ●○○ 最近一次人工确认为“未进入跟踪”
  • 其他 还没有人工确认过的热度记录时显示“未知”。热度只统计本站已接入的信源，不代表全网

易上手

  • ●●● 准备门槛低且难度入门：不需要新账号或付费，首次尝试不超过 30 分钟，公开可用，会复制粘贴即可
  • ●●○ 准备门槛中等，或门槛低但需要改少量代码或配置
  • ●○○ 准备门槛高：需要商业软件或付费服务、首次尝试超过 2 小时、特殊硬件或网络、排队或邀请且无替代方案，或需要专业知识
  • 其他 只有介绍、还没有站内步骤，或关键步骤已失效时显示“暂不可试”；门槛未核实时显示“未核实”

怎么尝试

  • 时间 首次约 25 分钟
  • 费用 免费：模型权重发布在 Hugging Face 公开仓库，博客未提及模型费用；运行需自备本地算力或 Colab。
  • 账号 不需要新账号
  • 环境 Python 环境 + 最新版 transformers（原站未说明具体操作系统与版本要求）
  • 准备 Python 与 pip：安装并运行 transformers 代码
  • 准备 transformers 最新版：加载并运行 LFM3 模型（pip install -U transformers）
  • 准备 本地算力或 Colab 环境：下载权重并推理、微调
  • 准备 Hugging Face 账号（选用）：下载模型权重，博客未明确说明是否需要登录

替代方案：LFM3 其他模态模型与微调笔记。能做到：同系列 VL / Audio / Omni / d1 模型都在各自 model card 里给出用法，博客另有微调章节；差别：需要看图或听音时换对应模型并按其 model card 安装依赖；要改造成自己的任务则走微调流程。

完成替代方案不算复现本实践。

按下面的步骤就能做出第一个结果。复制命令不会自动执行。

  1. 安装最新版 transformers

    在 Python 环境中安装并升级 transformers。

    bash原始来源命令 
    pip install -U transformers

    预期结果：pip 安装成功，transformers 为最新版本

  2. 加载模型并生成回答

    用官方给出的 pipeline 片段加载 LiquidAI/LFM3-1.7B，传入一条 user 消息，设置采样参数后打印最后一条 content。

    python原始来源命令 
    from transformers import pipeline

generator = pipeline(
    "text-generation",
    model="LiquidAI/LFM3-1.7B",
    trust_remote_code=True,
)

messages = [{"role": "user", "content": "What is C. elegans?"}]
output = generator(
    messages,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.1,
    max_new_tokens=2048,
)
print(output[0]["generated_text"][-1]["content"])

    预期结果：首次运行下载权重，随后打印模型对问题的文本回答

  3. 换一个自己的问题再跑一次

    把 messages 里的 content 换成自己的问题重新运行同一脚本。

    预期结果：输出针对新问题的回答，说明加载流程可复用

  4. 按需扩展

    若要改为本地 agent 使用，查阅博客中提到的 Agent Harnesses 指南；若要看图或微调，改用对应 model card 与博客微调章节（原站正文节选只到 LFM3-VL-2B 的“impor”处，后续内容未获取）。

    预期结果：获得 agent 搭配方式或进入对应 model card

原始来源：Build specialized multimodal models with LFM3 ↗