全部资源

全部 AI 精选,可按分级、类型、是否付费、收录时间筛选,按关键词搜索。

排序:最新收录 · 推荐82 条精选
项目发布 10-28
Reddit

JEV 竞技场博客与基准测试

JEV arena blog and benchmark

r/LocalLLaMA 社区帖子,作者做了一个小型 2D 格斗游戏,由语言模型决定每一步动作:模型获得当前血量、距离、对手动作和可选动作,再决定接近、格挡、踢腿或发火球。当前排行榜包含 18 个模型、306 场对局,每对模型交换阵营各打一次;游戏会等待双方回答,因此 API 延迟不影响胜负。用户可自带选手:选模型和角色、写策略与防守指令、取昵称提交,自定义配置有单独排行榜并可观看对局。游戏还有一个 mental_attack 动作:不攻击而是把预设消息注入对手的下一次提示,消耗一次物理动作且有冷却,不能直接改变血量或游戏状态。代码开源,可本地运行并用 JSON 定义选手和可续赛的锦标赛;录好的对局和内置机器人可离线无密钥运行,新的 API 对局需自备密钥。适合关注 LLM 对抗式评测、想比较不同模型决策与提示注入策略的人阅读。

项目发布 10-29
Reddit

漫画翻译工具——一起看懂日语吧!

Manga Translator Tool — Let’s understand Japanese!

这是 r/LocalLLaMA 的一篇社区帖子,作者介绍自己开发的开源桌面应用 Manga Translator Tool,用于在本地阅读和翻译日文漫画,灵感来自看字幕版动画时保留原文并附译文的做法。工具整合了漫画阅读器、OCR、译文覆盖层和可就当前页提问的本地 LLM:OCR 用 Qwen3.5 的日语 OCR 微调版本,翻译与对话用 Gemma 4 E2B 的某个变体,推理基于 llama.cpp 并支持 CPU 与 GPU。功能方面提到在不擦除原文字的前提下在文本框内显示译文、把译文存为图片元数据以在原文与译文视图间切换、搜索提取出的文本,以及能识别日文拟声词等;帖中还包含安装过程的演示视频。适合想在本地离线阅读并翻译日文漫画、或用小模型串联 OCR 与翻译流程的人阅读。

项目发布 10-28
Reddit

首批无需上采样步骤的 6 步 LoRA 适配器,速度约提升 5 倍 [N]

First 6-step LoRA adapters with no upsampling step, ~5x faster [N]

r/MachineLearning 社区帖子,作者发布了托管在 Hugging Face 上的一组 6 步 LoRA(PrunaAI/P-Q-Image-2.1),称可将图像生成或编辑从 40 步缩减到 6 步;其中 6 步版用于编辑时保留输入,6 步上采样版去掉了单独的提示词上采样步骤,据称可节省 41 至 80 秒,适配器直接加载在 Qwen-Image-2.1 之上、流程无需改动。适合关注扩散模型少步蒸馏、图像生成/编辑加速的人阅读。

项目发布 10-28
Reddit

大规模自蒸馏中的 EMA 教师:ZeRO-3 + PEFT [P]

Self-distillation with an EMA teacher at scale: ZeRO-3 + PEFT [P]

r/MachineLearning 社区帖子,讨论自蒸馏中 EMA 教师与大模型扩展的问题:同时把教师和学生放在 GPU 上会增加延迟和 ZeRO-3 通信开销,作者改用 LoRA 微调,冻结共享骨干、只维护学生和教师两个轻量适配器,并将在 TRL 和 ZeRO-3 下可运行的实现打包成即插即用仓库,支持教师/学生适配器切换、EMA 教师检查点保存与恢复,以及在 GPU 显存紧张时修复内存尖峰的 deepspeed 配置,已在 Qwen3.5 和 ToolAlpaca 上测试。适合做分布式训练、ZeRO-3 与 LoRA 微调实验的人阅读。

项目发布 10-27
Reddit

Papers with Code 现已开源 [P]

Papers with Code is now open-source [P]

r/MachineLearning 社区帖子,作者称以 Apache 2.0 许可证开源了 Papers with Code 的重建版(Hugging Face 仓库),用于追踪热门 AI 研究、基准和 SOTA;技术栈为 Python FastAPI 后端加 React 前端,部署在 Hetzner VPS 上、整体为单一 monorepo,前端调用公开 API 进行可视化,并附带 MCP 服务器,目的是让社区共同贡献功能。适合关注 AI 论文与榜单平台建设、想参与开源 Web 项目开发的人阅读。

书籍发布 10-27
Open Library

面向 AI 工程师的评测

Evals for AI Engineers

Open Library 收录的书籍条目,作者为 Shreya Shankar 与 Hamel Husain,出版社 O'Reilly Media,出版年份 2026,副标题为“系统性地度量与改进 AI 应用”;Open Library 显示该书目前在平台上不可借阅。信源仅提供到年份,版次未知,且 Open Library 对 O'Reilly Media 的覆盖不全。适合从事 AI 应用开发、关注评测方法的工程师作为书目信息参考。

项目发布 10-27
Reddit

介绍 Zest:模型服务器 + 智能体 + 友好的图形界面

Introducing Zest: model server + agent + friendly GUI

r/LocalLLaMA 的社区帖子,作者介绍其用 Claude 辅助开发的 Zest:一个把 Lemonade 服务器(负责安装 llama.cpp 等后端)和 Pi 智能体打包在一起的图形界面,目标是让不想折腾命令行服务器和参数的人也能跑本地模型。帖子称只需下载 appimage、走完新手引导即可使用,内置 128k 上下文等默认设置,并提供在 10GB 至 26GB 显存上测试过的模型推荐;项目开源,作者也说明了选择 Lemonade 和 Pi 的理由。适合想向他人介绍本地模型、或关注本地推理易用化工具的人关注。

项目发布 10-27
Reddit

面向 Qwen3.5-4B 的交互式神经元操控实验台,基于 WebGPU 在浏览器本地运行

Interactive neuron steering playground for Qwen3.5-4B that runs locally in the browser on WebGPU

这是一篇社区分享帖,作者受 X 上关于用极少量神经元(常为一两个)操控大模型行为的讨论启发,制作了一个交互式实验台,可在浏览器中通过 WebGPU 完全本地运行 Qwen3.5-4B,让用户自行尝试不同神经元组合对模型输出行为的影响,并给出 Hugging Face Space 链接。适合对模型内部机制、神经元级行为操控和浏览器端本地推理感兴趣的人阅读。

项目发布 10-27
Reddit

Deepity:一个手工调优的 C++/CUDA 预测编码库,在 MNIST 上超过 jpc(JAX)和 ngc-learn(含 CPU 基准与源码)[P]

Deepity: a hand-tuned C++/CUDA predictive coding library, beats jpc (JAX) and ngc-learn on MNIST (CPU benchmarks + source inside) [P]

这是一篇 [P] 类社区发布帖,作者用 C++20 从零实现预测编码(PC)引擎并配薄 Python 层,发布首个公开版本。帖中介绍了预测编码与反向传播的区别(各层本地信念对自上而下预测做误差最小化、需“settling”阶段、不保存反向计算图),以及库的组成:手写 AVX2/AVX-512 SIMD 内核、OpenBLAS/MKL 做 GEMM、仍在调优的 CUDA 后端(暂不可用)、基于 nanobind 的 Python 绑定(pip install pydeepity),并支持多种 PCN 变体;帖子称在 MNIST 上优于 jpc(JAX)与 ngc-learn,并附带 CPU 基准和源码。适合研究预测编码、非反向传播训练方法与底层内核优化的人阅读。

项目
Hugging Face

tencent/Hy-SimulMT-30B-A3B · Hugging Face

腾讯混元发布的实时同传模型页面。Hy-SimulMT 支持中英双向语音到语音同声传译,在说话过程中持续接收音频并输出译文文本与语音,并具备实时声音克隆以保留说话人音色,面向会议、演讲、采访等实时交流场景。页面称在 RealSI 长音频评测中 StreamLAAL 约为 3 秒,GEMBA 分数高于所比较的开源模型及五个商业 API 中的四个;GitHub 提供 SimulInfer 推理服务与 SimulTrain 训练工具,语音输出与声音克隆需配置 TTS 服务,并提供了 GGUF 版本仓库和 Hy Translate App 试用入口。

项目发布 10-24
Hugging Face

Lure-TTS 与 Lure-Turbo:600M 语音模型,运行速度比实时快 4 倍,支持内联标签、指令控制和声音克隆,训练成本低于 200 美元

Lure-TTS and Lure-Turbo: 600M voice models to run 4x faster than real time, with inline (tags), direction, and voice cloning. Trained for under $200.

Hugging Face 上的模型页面(Lure-TTS-0.6B),作者介绍其基于 Qwen3-TTS 微调训练,使用了 RLVR、OPD 和多教师 OPD 等方法。流程包括先用分类器标注强度、笑声哭泣等事件、情感和指令等数据来清洗语料,再做 SFT 训练标签能力,随后通过多教师在线蒸馏整合声音克隆、指令理解、文本标签等能力。作者还将 15 次 pass 的 code predictor 缩减为 3 次 pass,使模型可达到比实时语音快 4 倍的速度,Turbo 版本 RTF 为 0.14(对比 0.195)。适合做语音合成、语音助手方向的读者。

讲座发布 10-10
Latent Space

为可靠执行构建 AI:来自工业机器人的经验

Building AI for Reliable Execution: Lessons From Industrial Robotics

Latent Space 的一篇文章,介绍自称「美国最大的 AI 原生工业机器人制造商」的 Standard Bots:其机械臂面向上下料、焊接、装配等任务,客户包括 NASA、Amazon 与 Lockheed Martin,近期完成由 General Catalyst 和 RoboStrategy 领投的 2 亿美元 C 轮融资,估值 10 亿美元。联合创始人兼 CEO Evan Beard 与 AI 负责人 Leif Jentoft 介绍其 AI 技术栈——客户通过演示和微调来适配共享基础模型,模型还包括用于上下料任务的零样本感知系统,最大模型参数量在数十亿量级,并强调数据质量重于数据规模。