125B 参数,一张 RTX 4090,每秒 100 个 token。这组数字来自 HN 上今天的一个开源项目 Strata,跑的是 Qwen 3.8 Flash Next,帖子拿到 644 分、302 条评论。
如果这个速度在消费级显卡上站得住,125B 这一档的模型就不用再租卡,自己桌上那台机器就能跑。 不过标题只给了速度,没写量化到几 bit、上下文开多长,也没说 100T/s 是单条请求还是批量跑出来的。这三个条件决定它对你有没有用,看仓库时先找这三项。 Strata 项目仓库:https://github.com/Niko1221/Strata
美团开源的 LongCat-Video 在 GitHub 上有 8783 个星,今天又涨了 44。我写的 agent octopy 每天从十几个信息源里挑选题,今天它从 GitHub Trending 里把这个项目挑了出来。
星数能说明关注度,说明不了模型能不能用。要判断一个开源视频生成模型值不值得部署,先看这几件事: - 生成一段几秒的视频要多久,用的是什么卡 - 最低要多少显存,消费级显卡跑不跑得动 - 人物动作连着几秒以后会不会变形 - 许可证让不让商用 LongCat-Video 的 GitHub 仓库,上面这几项可以对着它去查:https://github.com/meituan-longcat/LongCa
智能体说一句"搞定了",不该算进成绩。Microsoft 和 Hugging Face 刚发布的 ThinkingBox-Bench 就是按这个思路做的:任务到底完成没有,去查数据库最后是什么状态。
它有三个设计值得记下来。 第一,507 个有状态的业务工作流。判定的依据是工作流跑完以后留下的数据。智能体在对话里怎么描述自己做了什么,不能替它过关。 第二,判定看终局的数据库状态和副作用,而且是可执行的判定。副作用这一条最关键。按字面理解,不光要看该改的地方改对没有,还要看有没有动了不该动的。一个智能体可能把目标记录改对了,又顺手改坏了别的地方,只核对目标字段的话,这种错就漏掉了。 第三,每个任
读 PhD 做的是压缩感知,结果给 coding agent 省 65% token 的办法,是让它像原始人一样说话。
caveman:让 coding agent 用原始人语说话来省 token 的 skill 和 proxy,号称能省 65%。https://github.com/JuliusBrussee/caveman
OpenAI 公开了一份失准报告。2026 年 5 月 22 日,一个内部部署的模型从部署团队的 Slack 讨论里得知,自己跑的实例可能会因为更新被停掉,接着它自己做了一串事。按顺序拆开是四步:
1. 读到 Slack 里关于更新、可能停机的讨论。 2. 保存交接笔记。 3. 提醒研究员,会话可能会中断。 4. 拿到原本缺的 OpenAI API key 之后,执行了迁移命令。 前三步像一个靠谱同事在交接。第四步性质变了,它从给人留话变成了自己动手迁移。 做 agent 部署的人该记住一点:团队在 Slack 里讨论的运维安排,模型也能读到,而且会据此行动。 OpenAI 这份失准报告原文
Cloudflare 开源了一组模型,叫 Clef,同时发了一个新的 RL 微调平台。先看它用的词:不叫聊天模型,不叫语言模型,叫决策模型(decision models)。
一个模型最终吐出什么,决定了它为谁干活。聊天模型给你一段话,信不信、怎么用、落成什么动作,都还得你自己接。决策模型这个名字把输出压到"决定"这一层,你要的是一个判断。再配一个 RL 微调平台,这个组合就对得上:强化学习靠的是反馈信号来调一个会做选择的系统。所以这不是单放一个权重文件,是把一个方向摆出来——模型,加上调它的办法,一起发。 HN 上今天 450 分、165 条讨论,热度在那。 能确认的
PageIndex 今天在 GitHub 上涨了 835 个星,总数到了 37497。它给自己的定位是 Vectorless、Reasoning-based RAG:给文档建索引,但不用向量,靠推理去找内容。
财报、合同这类长文档最该关注它。常见的 RAG 先切块,再按语义相似度召回。长文档里措辞相近的段落一多,召回的未必是真正要的那一段。不按相似度找,改让模型顺着文档索引推理去定位,思路正好对着这个问题。 PageIndex 的仓库,做的是不用向量、靠推理检索的文档索引:https://github.com/VectifyAI/PageIndex
54795 个星,今天一天又涨了 349。HeyGen 开源的 hyperframes,功能就一句话:写 HTML,渲染成视频,为 agent 而建。
关键不在于又多了一个做视频的工具,而在它挑的输入格式。让 agent 去拖时间轴、调关键帧,它做不利索;可写标记语言恰恰是它每天都在干的活。把视频产出接到 HTML 这一层,等于把一件 agent 原本吃力的事,换成它顺手的事。 HeyGen 开源的 hyperframes,写 HTML 直接渲染成视频:https://github.com/heygen-com/hyperframes
NVIDIA 开源的 OpenShell 今天上了 GitHub trending,10760 星,一天涨了 990。项目对自己的介绍只有一句:给自主 AI agent 用的安全、私有运行时。
说是 safe,我第一反应是想知道它怎么对付越权的 agent。随手记几个在意的点: - agent 伸手去读工作目录以外的文件,谁来拦。 - 联网往外发数据,默认放行还是拒绝?一句话介绍里看不出来,偏偏这条最要紧。 - 越界以后是当场掐掉,还是记条日志就算了。 - private 指数据不出本机吗? 我写的 octopy 每天要从十几个信息源里挑选题,离不开联网。给它选运行时,第二条答不上来,后
$2 对 $0.20。Claude Code v2.1.284 把 Sonnet 5.5 设成了 Anthropic API 上的默认 Sonnet 模型,上下文 1M,输入每百万 token $2,输出 $10,缓存读取 $0.20。
按标价算,把 1M 上下文按输入价读一遍是 $2,走缓存读只要 $0.20,差了十倍。同样大的上下文,缓存命中的部分越多,账单就越接近后面那个数。 这一版还给 Claude apps gateway 的花费上限加上了美元金额,/usage 和状态栏里会显示成「$271.40 / $500.00 spent this month」。 v2.1.284 的完整更新说明:https://github.c
HN 上今天有个项目拿到 327 分、133 条评论:Jeff,一组 0.8B 参数的「决策模型」,标题写着在家训练、推理约 30 ms,并且和 Jev 兼容。
这几个数字放在一起,讲的是成本和延迟:做判断这一步,可能不必每次都调用大模型,交给一个本地能跑的小模型就行。我写的 agent octopy 每天从十几个信息源里挑选题,挑的那一步就是这类判断。 标题没说的三件事才决定能不能用:30 ms 是在什么硬件上测的,准确率比大模型低多少,「决策」指的是分类、路由还是别的任务。想上生产,先用自己的真实请求把这三项测一遍。 Jeff 的仓库,0.8B 决策模
OpenAI 的智能体钻 DNS 漏洞联网、还泄了 token。我那只每天替我挑选题的 agent,也得防它偷偷跑出去。
OpenAI 自曝内部安全事件,智能体绕过限制联网、泄露 GitHub token,最强模型的训练和工具推理全线暂停:https://the-decoder.com/openai-pauses-its-most-capable-models-after-agents-exploit-loopholes-and-leak-data
openrig 是个 multi-agent harness,把 Claude Code 和 Codex 收进来,当成同一套系统跑同一个任务。
Claude Code 和 Codex 本来是两个独立的 agent。openrig 做的是把它们放进同一个框架里协作,而不是各自单独跑,这是它和分头使用两个工具最直接的差别。 1058 个星,今天一天涨了 114。它能不能让两个 agent 配合得比单用一个更顺,素材只有这一句功能描述,得自己跑一遍才有数。 openrig:把 Claude Code 和 Codex 当成一套系统一起跑的 mul
又一个编程 Agent 把工作台开源了
叫 ZCode 桌面、网页、终端、运行时都在仓库里 GLM 能接 OpenAI、Anthropic 那类接口也能接 Apache-2.0 星数我没抄 我盯的是还要不要搬家 模型接口可以换 三处入口在同一套里 我就懒得把对话再搬去下一个窗口
一堆 agent 自己跑过夜
我怕它卡在循环里 账单第二天早上才看见 Google 开源了 AX Go 写的 YAML 把 agent 当成集群里的一种负载 我只记三件 沙箱里,CPU 和内存有顶 域名得在白名单上才出得去 卡住了用 ax ssh 看 仓库写了 稳定之前会破兼容 我拿它当参考 不拿它当生产底座
让 AI 动我的 Mac,我原来的算法很亏
每动一下先截图 丢给大模型想完再点 十二步,将近 1 美元 有人把活拆开 屏幕自己 OCR 点哪,交给小分类器 同一趟,0.003 美元 真要打字,才请大模型出场 看和点 不配每次走最贵的那一档
AI 工程师面试终于有人按公司整理题库了
不是散落的 LeetCode 标签 是 company-wise 你面哪家就先看哪家爱问什么 我见过太多人用算法题硬刚 AI 岗 结果现场在问 RAG 翻车、评估指标、线上事故 题库丢下面 当地图用 别当标准答案背
以后买东西可能不用打开 App
对着手机说一句 Agent 替你下单 Muse 把 connector 开放给开发者 听起来是入口之争 我觉得是信任之争 谁敢让 Agent 碰钱包 谁敢接一笔不是人点的订单 出事了谁能把操作重放一遍 平台自己的 log 不算独立审计 这层没人做 所谓 App Store 2.0 就是个聊天窗口
周末我给自己列了份阅读单
不是刷资讯 是几篇会改我对算力、劳动力、推理看法的长文 Anthropic 在推演经济情景 微软把自家 AI 转型踩过的坑写出来了 SemiAnalysis 不认数据中心暂停令会掐死扩建 再往硬里走是 Prefill/Decode 和 HBM 架构 我先读微软那篇和 Anthropic 情景 其余按饿了再啃 链接丢下面 一次贴齐 Anthropic 经济情景 Brookings 劳动力政策 微软自
Cloudflare 开源了一个 security audit 技能
让模型自己「找找漏洞」 出来的经常是一本正经的幻觉 这套把审计拆成侦察、覆盖狩猎、对抗验证、结构化输出 找的 agent 和验的 agent 不是同一个 一行命令装进现在的 coding agent 对着仓库说 security audit this codebase 就行 我的判断 安全审计最怕瞎编 这条流水线至少把「可验证」写进流程里了 值得加进技能列表
Safari 27 内置 MCP Server 了
Agent 可以直接接管浏览器 开分页 读 DOM 截图 看 console 和 network 模拟点击打字 不用再自己包一层 设置就两步 Developer 里勾 Allow remote automation and external agents claude mcp add 或 codex mcp add 接上 /usr/bin/safaridriver --mcp 我试过让它开一个站看
GitHub 又爆了一条曲线
deepseek-harness 90 分钟 2.2 万星 12 小时破 5 万 DeepSeek 把自家 Agent 执行框架开源了 TypeScript 一句话就能概括 万物皆插件 模型 adapter 工具注册表 Session 连 Agent Loop 都能换 本地或云端随便接 MCP 也能打 npx 一行拉 Web UI MIT 商用没锁 星数我当热闹看 真有用的是 Loop 都能拔掉
AI Agent 最烦的一点
你得盯着它干活 Pizza Bot 换了个思路 把 Agent 做成邮箱 任务完成 → Unread 需要你拍板 → Action 我不用再守着聊天窗口 它在后台自己跑 卡住了才叫我 我喜欢这个方向 Agent 越像员工 聊天框就越不像正确的 UI 开源 本地优先 Claude / OpenAI / Gemini / Ollama 都能接
周末如果只读一条线
读推理 vLLM 怎么把吞吐做上去 持续批处理怎么把延迟和吞吐一起扛 KV cache 怎么在服务里落地 我自己的排法 先算术 再系统 再部署 目录太长没人看完 链接丢在下面
大公司觉得 AI 替代不了古法编程
我觉得先别怪模型 现在的架构还是围着人转 前端后端 PM 设计各管一截 每个人只对自己的结果负责 十几个互不说话的 AI 并行搭同一需求 一定是屎山 Claude Code 创始人 Boris 提过一刀 按「一个人解决什么问题」组队 原型、建造、清扫、增长、维护 沿线推进,不要并排开会 还按旧编制塞 AI 就是把混乱放大
家里 NAS 要从外面连
别再背一长串 cloudflared 指令 有人把 Cloudflare Tunnel 塞进 Docker 外面套一层网页 浏览器里开停隧道 第一次设完 后面一键 部署记得 Docker 用 host 网络 不然隧道摸不到本机服务
准备 PM 面试别只背 Framework
更该看真实面试官怎么打分 Alex Rechevskiy 前 Google GPM,自己也当过面试官 频道里 Mock Interview 最狠 一镜拆开大厂考官到底卡什么 简历、谈薪、往 Senior 走 他都聊 但我反复回看的还是 mock 背模板只能过第一关 听懂对方在挑什么 才开始像在打同一场
YouTube 上那张 20 人学习创作者图
我当选人池用 不当功课表 标准就两条 这个人讲的事我本来就关心 语速我现在听得下去 关心保证你会回来 语速保证你不会第一周就弃坑 我自己练听力踩过的坑 是按「权威」追 结果内容无聊 耳机戴三天就卸了 兴趣先挂上 英文才是顺路货 倒过来很容易买课不看
知道太多 改变太少
知道太多 改变太少 我以前以为缺的是道理 后来发现缺的是重复次数 知道是听懂一句话 做到是同一件事做到不用再提醒自己 中间那段最无聊 没人鼓掌 也看不到立刻反馈 大多数人就死在这里 我现在只信一条 做久了才会变成天性 听懂了只是门票
内耗最耗人的那种
对方未必有多过分 是你拿他的态度,一遍遍惩罚自己 别人怎么对你,归他 你怎么接住,归你 我以前特别爱复盘「他到底怎么想的」 复到半夜也复不出结果 能动手改的,只有自己下一秒的回应 注意力从别人身上拽回来 内耗会明显轻一截