cobanov/PS5LM

【AINews】AI Engineer 纽约站：Gemini 4 Argon、Vals AI 基准测试

[AINews] AI Engineer NYC: Gemini 4 Argon, Vals AI Benchmarks

Latent Space 旗下 AINews 栏目的一期新闻简报，日期范围为 2026 年 10 月 12 日至 13 日。内容涉及 Google 全球发布 Gemini 4 Argon（覆盖 API、Gemini 应用及搜索等入口，并列出每百万 token 2 美元/10 美元的入门价格及后续调价信息），以及 AI Engineer NYC 约两万人参加的大会主旨演讲，包括 Anthropic 的金融服务技术栈、Vals AI 的基准测试原则和 Coatue 的 AI 负责人分享。

在 Mac 上用本地 AI 模型构建应用

Build Applications with Local AI Models on a Mac

这是 Manning Publications 出版的书，作者 Keiji Kamigusa，出版日期 2026-09-28，296 页，ISBN 9781633433700，主题词为 AI。简介称其以在任意近期 Mac（从基础款 Mac mini 到 Mac Studio）上构建语音聊天机器人为逐步实践项目，串联音频采集、语音转写与语言模型推理三项本地技术，涵盖 Homebrew 配置、下载本地大模型等内容，主题是本地运行 AI 带来的隐私与免订阅优势。适合想在 Mac 上做本地 AI 应用开发的读者阅读。

在 4 块 R9700 上对比 Qwen 3.8 27B 与 Nanbeige 4.3 33B：我的工作负载下的实际 TPS 与每小时任务数

Qwen 3.8 27B vs Nanbeige 4.3 33B on 4xR9700s: Real World TPS and jobs/hour on my workload

这是 r/LocalLLaMA 的一篇社区帖子，作者此前发布过用 127 美元二手 EPYC 搭建 4 卡 R9700 机器的方案，本次在同一套硬件上对比 Qwen 3.8 27B 与 Nanbeige 4.3 33B。他以自己公司维护枪械相关商家信息（营业时间、价格、设施等）的实际工作为负载，让两套配置各跑同样的 2,484 个案例，以审计员身份输出接受、拒绝或弃权，并统计吞吐、每日经核实的正确任务数、准确率，以及 1/4/8 路并发下的 token 速度。帖子还提到 Qwen 在思考模式下审计自身结果的表现优于 Nanbeige，并在结尾向做编程或创意写作测试的人征询情况。适合关注本地多卡推理部署、按实际业务任务而非纯跑分评估模型的人阅读。

jackwener/DeepseekHarness-Android

这是一个安卓应用项目，可免 ROOT、免 Termux 通过单个 APK 在手机上运行 DeepSeek Harness：引擎内嵌于 App 进程，能读屏操作 App、修改系统设置、执行定时或条件自动化，可选安装 Shizuku。使用需登录 DeepSeek 账号或填 API key，也可在设置中添加其他模型服务商，支持 arm64 与 Android 10 及以上。适合想在安卓手机上布置手机端 AI 代理、做自动化操作的人阅读。

StartLuxLabs/StartLux-Decision

这是一个开源决策模型系列的项目仓库，模型规模从 0.8B 到 27B，一次推理即为每个选项给出校准概率，仅在不确定时输出简短思考。项目提供面向 vLLM、llama.cpp 和 MLX 的推理引擎，并提供 Hugging Face 模型页、arXiv 技术报告、API 文档与博客链接。

调优后的 Strata 配置：2000 PP、平均 tg 95–105

Tuned Strata config, 2000 PP and 95-105 mean tg

一篇 r/LocalLLaMA 社区帖子，作者在 RTX 4090 + 48 GB 内存、Ryzen 3900X、Windows、200k 上下文的环境下运行 IQ3_S Qwen3.8-Flash-Next，对 Strata 0.43 的大量参数做了近似网格搜索。帖子称 decode 从 97 tok/s 提升到 142 tok/s（+45%），列出最有效的几个参数（--adapt-async 1、--kv-resident 20480、STRATA_ADAPT_LAG=2）和最差的几个（--expert-cache 单位是 MiB、--ple-io ram、--no-prefill-borrow），并指出 Windows 无法用 cuda 固定内存。适合在单卡上折腾 Strata 推理引擎参数调优的人阅读。