视觉与多模态理解

学习图像、视频与多模态信息的理解和推理,适合视觉应用开发者。

20 条精选 · 入门 4 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 1进阶
    项目发布 10-05
    GitHub

    SoMarkAI/OXR:开源文档解析模型

    SoMarkAI/OXR

    这是一个 GitHub 开源项目,提供名为 OXR(Optical Everything Recognition)的文档解析模型,目标是将 PDF 和文档图像转换为便于智能体使用的数据。项目介绍称其在后训练中使用 RSI 循环,具备较高的准确率和速度,并给出在线演示、免费 API 以及 Hugging Face 和 ModelScope 上的模型入口;README 提供英文和简体中文版本。

  2. 14进阶
    项目发布 10-29
    Reddit

    漫画翻译工具——一起看懂日语吧!

    Manga Translator Tool — Let’s understand Japanese!

    这是 r/LocalLLaMA 的一篇社区帖子,作者介绍自己开发的开源桌面应用 Manga Translator Tool,用于在本地阅读和翻译日文漫画,灵感来自看字幕版动画时保留原文并附译文的做法。工具整合了漫画阅读器、OCR、译文覆盖层和可就当前页提问的本地 LLM:OCR 用 Qwen3.5 的日语 OCR 微调版本,翻译与对话用 Gemma 4 E2B 的某个变体,推理基于 llama.cpp 并支持 CPU 与 GPU。功能方面提到在不擦除原文字的前提下在文本框内显示译文、把译文存为图片元数据以在原文与译文视图间切换、搜索提取出的文本,以及能识别日文拟声词等;帖中还包含安装过程的演示视频。适合想在本地离线阅读并翻译日文漫画、或用小模型串联 OCR 与翻译流程的人阅读。

  3. 15进阶
    项目发布 10-04
    GitHub

    Show HN:为 macOS 上每张照片和每帧视频提供 AI 搜索

    Show HN: AI search for every photo and every frame of video on macOS

    这是一个 macOS 应用的 GitHub 仓库,项目名为 SCM(Screen Memories),定位为多模态视觉记忆智能体。它使用在 Mac 本地运行的视觉模型,支持用自然语言检索照片、截图、视频和音频,并可对视频按场景切分定位到具体镜头,同时提供 OCR 文字搜索和基于 Whisper 的语音台词搜索。项目还说明支持监视文件夹自动导入、内容哈希去重和后台重新嵌入,媒体文件不上传,保持本地离线运行。

  4. 16进阶
    项目发布 10-25
    Reddit

    我用 Claude Code 做了一个激光干射击游戏:摄像头看着你的显示器并给激光命中计分(开源、免费)

    I built a laser dry-fire shooting game with Claude Code: a webcam watches your monitor and scores laser hits (open source, free)

    Reddit r/ClaudeAI 上的社区帖子。作者称用约两周时间以 Claude Code 做出 ScreenPlink:以显示器为靶,用激光训练手枪或激光弹壳射击,显示器旁的摄像头拍摄屏幕并计算命中像素、打出弹孔并让靶倒下。功能包括九种训练、十五个带计分环的人形靶、17 发弹匣和同屏双人;摄像头可斜置,应用通过拍摄屏幕上的标记自行标定。作者说明代码基本全部由 Claude Code 编写,自己负责设计与验收,难点在于让无法看到屏幕、无法扣扳机的智能体调试一个测量物理世界的程序,为此使用了进程内 MCP 服务器等做法。适合用 Claude Code 做图像/硬件相关项目开发的人阅读。

  5. 17进阶
    项目发布 10-27
    GitHub

    patch-gg/anymove(单段 AI 视频驱动生物动作捕捉)

    patch-gg/anymove

    一个开源项目,可将一段 AI 生成的视频转换为任意带骨骼生物的动画,包含翅膀、尾巴和多足。做法是在同一画面中放置正面与侧面两个相机视角,使用 DINOv2 读取关节,在两视角中拟合骨架并输出 GLB 文件。项目页称每条动作视频成本约 0.26 美元,读取与拟合在一分钟内完成。

  6. 20深入
    项目发布 10-14
    GitHub

    QwenLM/BlenderWorld

    Qwen 团队发布的一个用于评估 3D 创作视觉智能体的基准,全称为“Benchmarking Visual Agents for 3D Creation from Real-World References”。基准包含 9 个类别、22 个子类共 223 个任务,智能体根据任务简报和参考素材在 Blender 中交付可编辑工程文件及指定导出物,可用 bw evaluate 进行评估;仓库提供论文、Hugging Face 与 ModelScope 数据集链接。

多模态与领域探索的其他细分主题