在 Mac 上用本地 AI 模型构建应用

liyupi/ai-promo-video-maker（AI 产品宣传片制作器）

liyupi/ai-promo-video-maker

一个开源仓库，提供由 AI 编程工具（如 Cursor、Claude Code、Codex）驱动的产品宣传片制作流程。用户给出产品名或网址后，工具会调研产品、生成多风格样图、截取 4K 页面、按音乐节拍剪辑、生成并校验 AI 旁白、自动审图，最终输出 4K 视频和网页版。项目基于 Remotion 与 ElevenLabs，采用 MIT 许可。

构建带端侧记忆的 AI 助手

Building AI Assistants with On-Device Memory

DeepLearning.AI 平台上的课程页面。课程指出依赖云端记忆的 AI 应用需要联网并把数据发往远程服务器，而本课程教授端侧替代方案：学习者构建把文本、语音和图像等经历以向量形式存储、按语义检索的记忆系统，并让助手能从少量照片中识别新物体而无需重新训练模型。课程标注为中级，时长 1 小时 4 分钟，含 8 个视频课、5 个代码示例和 1 个评分作业，讲师为 Dylan Couzon，页面显示更新日期为 2026 年 10 月 15 日。适合想学习本地向量检索与离线多模态助手实现的开发者。

调优后的 Strata 配置：2000 PP、平均 tg 95–105

Tuned Strata config, 2000 PP and 95-105 mean tg

一篇 r/LocalLLaMA 社区帖子，作者在 RTX 4090 + 48 GB 内存、Ryzen 3900X、Windows、200k 上下文的环境下运行 IQ3_S Qwen3.8-Flash-Next，对 Strata 0.43 的大量参数做了近似网格搜索。帖子称 decode 从 97 tok/s 提升到 142 tok/s（+45%），列出最有效的几个参数（--adapt-async 1、--kv-resident 20480、STRATA_ADAPT_LAG=2）和最差的几个（--expert-cache 单位是 MiB、--ple-io ram、--no-prefill-borrow），并指出 Windows 无法用 cuda 固定内存。适合在单卡上折腾 Strata 推理引擎参数调优的人阅读。

C4rohan/Lampline

这是一个开源、可自托管的语音电话智能体（voice agent）项目，可在本机或自有服务器上用一条命令构建、测试和运行，并用 AI 来电者测试每次改动。无 API 密钥时可免费运行，自带密钥时每通电话成本约 0.02–0.17 美元；支持从 Dialogflow CX 和 CX Agent Studio 导入智能体。话题标签涉及 agents-as-code、呼叫中心、IVR、SIP、语音识别与合成、pipecat 等。

cobanov/PS5LM

该项目把 llama.cpp 移植到已越狱的 PlayStation 5 上，允许主机原生运行 GGUF 格式模型，从 Qwen 3.8 开始。README 说明它借助主机 GPU 推理，提供 OpenAI 与 Anthropic 兼容 API 和适配电视的界面，可在无 PC、无云端、无账号的情况下为局域网内设备提供模型服务，另新增了 Ollaya 的决策模型支持。适合拥有越狱 PS5、想在家搭私有模型服务的读者。

Bridgewater 如何把一亿份文档变成优势——Sam Green 与 Aaron Linsky，Bridgewater

How Bridgewater Turned 100 Million Documents Into an Edge - Sam Green & Aaron Linsky, Bridgewater

Bridgewater Associates 的应用 AI 团队负责人 Sam Green 和产品工程负责人 Aaron Linsky 介绍其名为 Vault 的系统：汇集来自 135 个外部来源的一亿多份文档以及公司自身的备忘录和会议记录，经清洗、权限化和按内部本体标注。演讲给出三条经验：人和智能体对搜索的需求不同、最大的收益来自同时服务两者的单一工具、真正的目标是让智能体主动把值得关注的内容带给投资人，并提到自建基准使 precision at 10 从约 60% 提升到 90% 以上。