今日一句话 本地推理的天花板在悄悄抬高，你的技术选型窗口正在收窄。

今日精选（3 条）

1. 🛠️ gpt-4o-mini 级别的本地 20B 模型跑 agentic 任务

r/LocalLLaMA · https://www.reddit.com/r/LocalLLaMA/comments/1rc6c8m/feels_like_magic_a_local_gptoss_20b_is_capable_of/

选这条的原因：本地 20B 跑 agent 任务「感觉像魔法」——这个描述本身就是信号。

这不是又一篇「本地模型能用了」的感叹帖。20B 参数在消费级硬件上跑 agentic workflow，意味着工具调用、多步推理、上下文保持这些以前必须上云的能力，现在在本地有了可用基线。对你的实际影响：如果你在做需要 agent 能力但对数据隐私敏感的产品（企业内网、医疗、法律），现在值得认真评估本地部署方案了，不用再等「下一代模型」。具体看哪个模型：结合同期 Qwen3 Coder 的讨论，Qwen 系列是目前本地 agentic 能力最值得测试的方向。不要在这个时间点还把「本地模型不够用」当成默认假设。

2. 🧠 RWKV-7：ARM 上 16 tok/s，O(1) 内存推理

r/LocalLLaMA · https://www.reddit.com/r/LocalLLaMA/comments/1rco9v7/rwkv7_o1_memory_inference_1639_toks_on_arm/

选这条的原因：O(1) 内存这个特性对边缘部署是结构性优势，不是 benchmark 游戏。

Transformer 的 KV cache 随上下文线性增长，这是边缘设备的硬伤。RWKV-7 在 ARM Cortex-A76 上跑 16 tok/s，同时内存占用不随序列长度增加——这对树莓派、手机、嵌入式设备是真实可用的突破。和 LLaMA 3.2 3B 比性能有竞争力，但架构完全不同。什么时候该用：你在做需要长对话但内存受限的边缘场景，或者对推理延迟极度敏感的实时应用。什么时候不用：主力产品跑在云上、上下文不长，Transformer 生态更成熟，别为了新架构增加维护成本。RWKV 的生态工具链还不完善，现在是「值得跟踪」而不是「立刻迁移」。

3. 🛠️ Anthropic 指控 DeepSeek 工业级蒸馏攻击

r/LocalLLaMA · https://www.reddit.com/r/LocalLLaMA/comments/1rcpmwn/anthropic_weve_identified_industrialscale/

选这条的原因：这不是公关战，是 API 使用条款风险的真实提示。

Anthropic 说检测到有人在大规模用 Claude 的输出蒸馏训练其他模型。对你的影响不是「谁对谁错」，而是：各家大模型厂商会因此收紧 API 使用条款，对合成数据生成、模型蒸馏类业务的审查会加强。如果你的产品依赖用 GPT/Claude 输出批量生成训练数据，现在需要认真看一遍服务条款，评估合规风险。另一个角度：这件事会加速开源模型的吸引力——用开源模型生成合成数据没有这个法律风险。

本周趋势

本地推理能力在过去两周密集出现突破信号：20B 级别 agent 能力可用、RWKV-7 边缘推理、Qwen3 Coder 填满双 Orin 节点……这些加在一起说明一件事：「本地 vs 云端」的技术选型边界正在快速移动。

现在应该把精力放在：测试你的核心 use case 在本地 20B 模型上的实际表现，不要只看 benchmark，跑你自己的 eval。如果你还没建立本地模型的测试流程，这是现在最值得投入的基础设施。

避开的方向：不要在「哪个云端 API 更便宜」上花太多时间做横向对比，这个格局三个月内还会变。也不要被「AI agent 框架」的概念炒作带跑——框架不重要，你的 agent 在具体任务上的成功率才重要。

对内容创作者：Anthropic 蒸馏事件会是一个持续发酵的话题，但别写成「AI 公司互撕」的娱乐稿，真正值得写的角度是「合成数据的法律边界在哪里」。

今日噪音 dontbesilent 的「AI 工具论」感叹和 NAS 硬盘吐槽占了今天社交信号的大半，全部跳过。