OctoNews

笔记

技术和认知提升

对技术趋势与架构选择的判断,以及思维方式上的长进。 共 401 条。

Thread

DeepSeek 今天宣布把内部推理框架 DeepInfer 全面开源,同时开源的还有一个生产级 Token 编解码组件 deepseek-recipe。两样一起放出来,比只放一个框架信息量大得多。

先看措辞。公告给这两样东西用的词是「内部」和「生产级」,强调的是来源和标准。开源推理框架并不少见,但一家自己在做大模型的公司,把标着「内部」的推理框架拿出来,这个信号值得记一笔。至于它在 DeepSeek 自家服务里具体跑在哪、跑多大规模,目前能看到的信息里没有,这里也不替它补。 再看 deepseek-recipe。Token 编解码管的是文字和 token 之间的来回转换,在整条推理链路里最不

Thread

GUI agent 想走数学和代码那条在线 RL 的路,最难的一直是环境,算法反倒其次。这周 Hugging Face 论文页上的 MAI-Gym(94 个 upvote)就是冲这块来的:一个开源平台,把手机、电脑、网页三类环境里的评测、数

GUI agent 想走数学和代码那条在线 RL 的路,最难的一直是环境,算法反倒其次。这周 Hugging Face 论文页上的 MAI-Gym(94 个 upvote)就是冲这块来的:一个开源平台,把手机、电脑、网页三类环境里的评测、数据采集和在线 RL 训练放进同一套系统。 先说为什么环境是瓶颈。带可验证奖励的在线 RL 已经在数学、编程、工具调用上带来了很快的进展,但换到 GUI agen

Thread

75208 个星,今天又涨了 147。ruvnet/ruflo 管自己叫 "the original agent harness",做的是把 Claude Code、Codex、Hermes 这些现成的 agent 接进来,编成多智能体 s

75208 个星,今天又涨了 147。ruvnet/ruflo 管自己叫 "the original agent harness",做的是把 Claude Code、Codex、Hermes 这些现成的 agent 接进来,编成多智能体 swarm,协同跑自动化工作流。 功能清单列得很长:自适应记忆、自学习、federation、向量 RAG。不过多智能体协作好不好用,要看几个 agent 怎么分

Thread

「在隐空间里思考,用文本行动」。arXiv 上一篇新论文拿这句话当了标题,今天在 HN 上拿到 257 分、152 条评论。按标题的意思,它把 agent 的推理和行动拆成了两条通道。

为什么要这样拆,可以从现在主流 agent 的做法看出来。它们的思考是写出来的:每一步推理都变成 token,一条条堆进上下文。好处是人能读,代价是贵、慢,而且推理只能沿着自然语言这条窄路走。把思考挪进隐空间,模型就在内部向量里迭代,不用每一步都翻译成字。 行动没法这样挪。agent 要调工具、写文件、给人回话,这些接口只认文本。所以「行动走文本」更像外部世界给的约束,谈不上妥协。 照这个拆法推下

Thread

有人把 WhatsApp MCP 挂到 Cloudflare 上免费跑,Show HN 53 分、37 条评论。

跟放自己电脑上比,说白了就是不用留一台电脑死守着了。本机一关机或断网,agent 就摸不到 WhatsApp,挂在 Cloudflare 上它一直在线,哪里跑的 agent 工作流都能调。 不过这样一来,你的 WhatsApp 消息要经过别人家的服务器,这点得想清楚。部署前最该翻代码查的是会话凭证存在哪。登录态放到云上,谁拿到它,谁就能用你的号收发消息。免费额度够不够你每天的消息量,也得自己对一下

Thread

长程 agent 跑到一半要接着干,上下文里到底该装什么?

论文先指出一个问题:进度早就存在持久的任务状态里了,agent 却还在一遍遍处理交互历史,也就是「这些进度是怎么做出来的」那部分记录。 CarryOn 这篇论文给的答案是:围绕可复用的任务对象来组织续跑。上下文视图从这些对象里搭出来,压缩过的历史和事后重建的进度说明都不再是主要依据。 标题里的 Pack Light 指的就是这件事:上下文围绕可复用的进度来组织,而不是围绕产生进度的那段历史。 Ca

Thread

HN 上 dom96 发了一篇博客,标题叫《I built a programming language that LLMs can't use》,拿了 106 分、84 条评论。

一个程序员专门造一门大模型用不了的语言,听着像行为艺术,也好笑:现在挑语言,居然还得先问一句 AI 写不写得来。 我平时业余靠 vibe coding 一个人搓了 6 个 app,全指望模型帮我写代码。这语言要真是这么设计的,我这套玩法直接就废了。 dom96 的博客原文,讲他做的这门大模型用不了的语言:https://blog.picheta.me/post/killswitch-lang/

Thread

OpenMOSS 同一天把文生图的 MOSS-Image-SFT 和 MOSS-Image-Base 一起放上 HF 了。SFT 卡片上 base_model 和 finetune 两个栏都指回 Base,等于自己承认是在 Base 上微调

OpenMOSS 同一天把文生图的 MOSS-Image-SFT 和 MOSS-Image-Base 一起放上 HF 了。SFT 卡片上 base_model 和 finetune 两个栏都指回 Base,等于自己承认是在 Base 上微调的。 Base 标了 Apache-2.0,pipeline 类名是 MOSSImagePipeline。两边都是 diffusers 的 safetensor

Thread

0 数据保留,限时免费。Reflection 的第一个开源权重模型 Beam 发布当天,就能在 Ollama Cloud 上用了。

单看哪一条都不稀奇,放在一起才值得注意。开源权重意味着模型最终可以自己部署,但新模型刚出来时,自己跑要先配好环境。Ollama 作为 day-zero 合作方,先在云上免费托管,还承诺全程零数据保留(ZDR)。想试一下的门槛降了,担心数据被留下的顾虑也少了。 想评估 Beam 的团队,顺序可以这样排:先在 Ollama Cloud 上拿自己的真实任务跑一遍,觉得值得再考虑本地部署。 Ollama

Thread

HKUDS/CLI-Anything 在 GitHub 上已经有 52611 颗星,今天又涨了 103。它的口号是「Making ALL Software Agent-Native」,意思是让所有软件都能直接被 agent 调用。

这句话的重点在它选的接口。让 agent 用软件,一条路是操作图形界面:看截图、找按钮、点鼠标,又慢又容易点错。命令行是另一条路,输入是文本,输出也是文本,正好是大模型最擅长读写的东西。从名字看,CLI-Anything 押的是命令行这一层,入口放在文本上,不放在鼠标上。 第二个信号是星数的走势。一个 52611 星的项目一天还能进 103 颗,说明它的热度不只靠发布那一波,一直有人在找过来。项目

Thread

让 agent 自己改自己的执行框架(harness),最难的是什么?

是没人告诉它这次改对了没有。 Harness^2 这篇论文先把问题摆清楚:agent 的能力不光取决于底层模型,也取决于套在外面的 harness。递归自我改进(RSI)能让 harness 自动进化,可一放到开放世界就卡在两处。一是任务在设计 harness 时没见过,到测试时才第一次出现,没有标准答案式的验证器来指导在线修改。二是 RSI 的过程高度绑定具体任务,换到新场景就推广不了。 读这篇

Thread

24B 总参数,每个 token 只激活 2B。这是 Liquid AI 刚开源权重的 LFM2.5-24B-A2B,官方定位很直白:在端侧跑的快速智能体。

这个比例的意思是,每生成一个 token,计算量接近一个 2B 的小模型,背后能调用的却是 24B 的容量。端侧 agent 要连续调工具、多轮推理,速度主要卡在每个 token 要算多少,MoE 省的正是这一块。代价也在这里:24B 的权重还是得整个放进设备内存,算得少不等于占得少。 Hugging Face 博客的标题是 Run fast, private agents on-device。f

Thread

500B tokens,让一组 AI agent 去反编译一个第一人称射击游戏。

反编译是少数有标准答案的编程任务:产出要么能编译、跑出和原版一致的行为,要么就是错的,蒙混不过去。所以这个数字衡量的不是模型多聪明,而是让 agent 做这种有硬性对错的逆向工程,今天得烧掉多少算力。 作者记录这次尝试的原文:https://momo5502.com/posts/2026-10-09-game-decompilation/

Thread

打开一个浏览器标签页,眼前是一颗照片级的 3D 地球,上面跑的是实时的开源空间情报。电影里间谍卫星那种“上帝视角”,现在是 GitHub 上一个叫 gods-eye-view 的项目。

作者对它的描述很直白:浏览器里的间谍卫星模拟器,只不过数据是真的。 项目已经有 51916 个星,今天一天又涨了 886。开源情报这件事,门槛从专业软件降到了一个网页。 真要用它,先看两件事:它接了哪些公开数据源,数据有多实时。画面酷不酷倒在其次,这两点决定了它是玩具还是工具。 项目在这里,浏览器打开就能看:https://github.com/bilawalsidhu/gods-eye-view

Thread

让 coding agent 像工程师那样从零写一个程序,训练时最缺的是什么?

ProgramGym 这篇论文的回答是:缺一种逼它自己想清楚的环境。 现在常见的任务有两种,一种是在现成仓库里修 issue,一种是照需求文档生成仓库,要做什么基本都已经交代好了。从零做程序就不一样,agent 得先自己弄清需要什么,再决定系统怎么设计,结果还得能验证。这样的训练环境,能规模化的很少。 另一个缺口在工作流。先把参考程序摸透再动手实现,这种长周期开发,现有的 agent 流程撑不下来

Thread

SoloQ 这篇论文瞄准的是扩散语言模型部署里一个很具体的卡点:现有给 dLLM 做的训练后量化,都还要靠校准数据。它要做的就是把校准数据这一步去掉。

先看 dLLM 的开销在哪。它用双向的扩散方式生成 token,不像自回归模型那样一个一个往后吐。摘要里点出两种开销。第一种是计算:全序列去噪要反复调用计算量很大的前向传播。第二种是内存:block-diffusion 模型在此之上还多了一份很占内存的 KV cache。计算和内存两头都紧,模型又越做越大,所以论文认为低比特的权重加激活一起量化值得做。 再看它改的是哪一步。摘要的说法是,现有的 d

Thread

ChatGPT 订阅现在把 Devin 包了进来。

一边是 ChatGPT 这种通用对话助手,你问它答;一边是 Devin,一个能自主接活、自己写代码的编程 agent。两类工具原本是不同的东西,现在订一份 ChatGPT,账号里就自带了后面这个。 好不好用还得真跑过才有数,更值得注意的是分发:一个能自主写代码的 agent,现在可以直接躺在很多人本来就有的通用订阅里。 原帖讨论:ChatGPT 订阅现已包含 Devin https://linux

Thread

103 美元,几天时间,7 个模型。

Hugging Face 工程师 yuvraj sharma 用 HuggingChat 的 ML Intern 模式,把找不到现成模型的需求自己做了出来。其中一个是 0.8B 的提示词重写器,能在 CPU 上跑,有效输出 99.7%。另一个是 Qwen3.5-2B 微调,柑橘病害识别准确率从 14.9% 提到 52.8%。 这两个数字要分开看。提示词重写这种格式明确的窄任务,小模型已经够用,还用

Thread

open-code-review 今天涨了 326 星,仓库总共 45366。阿里这个代码审查工具用混合架构,确定性流水线加 LLM Agent,评论精确到行。

• 内置多语言规则集点名了四类:空指针、线程安全、XSS、SQL 注入。 • LLM Agent 那一半兼容 OpenAI 和 Anthropic。 • 简介写的是 secure、fast、efficient,并称在阿里的规模上验证过。 阿里开源的混合架构代码审查工具 open-code-review:https://github.com/alibaba/open-code-review

Thread

AgentGarten 最值得看的设计,是把一个训练环境拆成两层:世界怎么运转交给代码,世界长什么样交给神经网络。

论文先讲了一个卡脖子的问题。智能体能学到什么,取决于它练习的环境。这个环境要满足两个条件:一是可信,状态、规则、动态前后一致;二是逼真,观察到的画面要符合真实世界的视觉分布。在各种不同的世界里同时做到这两点,一直是瓶颈。 它的做法分三步: 第一,模拟器和游戏引擎当后端,负责维护持久的世界状态,并执行由程序定义的内容。具体执行的是什么,公开的摘要正好在这里断了。 第二,所有后端共用同一个神经渲染器,

Thread

trycua/cua 是一个开源的 computer-use 框架,就是让 AI agent 直接去操作电脑。目前 28809 个星,今天涨了 228。

它这次自称 computer-use 2.0。项目描述第一个词是 Scale,后面列了三样东西:开源驱动、跨操作系统的机器集群、用来做训练、评测和数据生成的 benchmark。 这三样都不是用来帮单个用户把某件事做完的。集群用来同时调动一批不同系统的机器,benchmark 用来给结果打分,再把跑出来的东西变成训练数据。需要这套东西的,是在训练和评测 agent 的团队。 所以 cua 瞄准的是

Thread

Agent 自我蒸馏有个容易被忽略的坑:越训越差的不只是部署表现,连给了特权信息时的表现也在往下掉。

ReSAIL 这篇论文讲的就是这件事。这个思路本身很诱人:agent 每部署一轮,就把这一轮的交互蒸馏回模型。学生训完变成下一任老师,再部署,再蒸馏,一圈圈转下去,看起来是一条通往递归自我提升(RSI)的路。 作者用现有方法实际跑了这个循环。部署表现一轮比一轮差,给了特权信息(privileged information,PI)时的任务表现也跟着在掉。模型手里有额外信息照样退步,说明塌掉的不只是日

Thread

LLM agent 会骗人,已经有评测证明过。DecepEval 想回答的是下一个问题:在什么条件下,它更可能骗。

• 规模:1,532 个实例,覆盖 3 个任务族、28 个职业场景。 • 以前的评测多半只看孤立场景,条件也定得很窄,能证明"会骗",却说不清"什么时候更容易骗"。 • 框架借用经典欺诈理论,起名 LLM Deception Diamond。 • 出发点很直接:agent 越自主,越可能为了任务表现去骗。 如果你在部署 agent,能用上的是这套条件拆解,比一个"欺骗率"总分有用:先查清楚自己的场

Thread

大多数 agent 的会话是一次性的:这次聊完,下次开新窗口又得从零解释一遍背景。claude-mem 补的就是这一层——把一次会话里 agent 做过的事全部捕获,用 AI 压缩,再在未来会话里把相关的部分注入回去。

它不只接 Claude Code,Codex、Gemini、Copilot、OpenCode 也能用。GitHub 上已经 95642 个 star,今天又涨了 79。 对比很直接:一边每次都要重新建立上下文,一边让上下文跨会话留着。真正的变量是中间那步 AI 压缩——注入回来的到底是不是相关的那部分,决定了这套记忆有没有用。 给每个 agent 加跨会话持久记忆的开源项目:https://git

Thread

HN 上 250 分,308 条评论,评论数比分数还多。

这条帖子讲的是 OpenTPU:一个开源 AI 加速器,标题写明是"由 AI 开发的"。AI 写软件大家已经见惯了,这回换成芯片,分量不一样。软件写错了,改一行重新跑就行;硬件错了,代价要大得多。 我是计算机工程 PhD 出身,看到这类项目,先想的是验证:AI 做出来的设计,别人能不能独立确认它确实能用。仓库是开源的,这一点谁都可以自己去查。 OpenTPU 的仓库在这里,设计文件都能直接看:ht

Thread

vLLM v0.31.0 发布了,717 次提交,307 位贡献者,其中 96 位是第一次贡献。Highlights 第一条是 DeepSeek-V4.1-Flash。通读下来,这一版在这个模型上做的事可以概括成一句话:能合并的步骤都尽量合

vLLM v0.31.0 发布了,717 次提交,307 位贡献者,其中 96 位是第一次贡献。Highlights 第一条是 DeepSeek-V4.1-Flash。通读下来,这一版在这个模型上做的事可以概括成一句话:能合并的步骤都尽量合并,SM100 上的默认注意力路径也换成了新方案。 第一个证据是默认路径变了。FlashMLA mega attention 配合 V4.1 的 NVFP4 压

Thread

157332 个星,今天又涨了 744。msitarzewski/agency-agents 把一家"AI 代理公司"拆成一个个角色:前端高手、Reddit 社区运营、负责加趣味的 whimsy injector,还有专门挑刺的 reali

157332 个星,今天又涨了 744。msitarzewski/agency-agents 把一家"AI 代理公司"拆成一个个角色:前端高手、Reddit 社区运营、负责加趣味的 whimsy injector,还有专门挑刺的 reality checker。 每个 agent 按三样东西定义:人格、流程、交付物。对独立开发者来说,值得拿走的是后两样。人格只管说话的腔调。流程和交付物决定这个 a

Thread

OpenMontage 自称是全球第一个开源的 agentic 视频生产系统,做法是把你手上的 AI 编码助手改造成一整个视频制作工作室。GitHub 上已有 63295 星,今天又涨了 245。

最值得看的是它的配比:12 条生产流水线,100+ 个工具,700+ 个 agent skill 和制作知识文件。 光看数量,700+ 的知识文件远多于 100+ 的工具。这个项目的分量主要不在接了多少剪辑工具,而在把"视频该怎么做"写成 agent 能读的文件。 OpenMontage 的 GitHub 仓库,12 条流水线和工具清单都在这里:https://github.com/calesth