中文文档别直接塞进大模型
我最近把 PDF、扫描件先丢给 MinerU 它针对中文场景训过 表格、版面、公式能先收成 Markdown / JSON 再交给 LLM 读 省下的不只是耐心 是 Token 和幻觉空间 脏扫描件直接问 模型会拿版面噪声编答案 它还挺轻 8GB 内存的笔电也能跑 我的习惯很土 能本地预处理就不把原件整页塞进对话 先整理 再提问 这步比换模型划算
别再信「信息差已经死了」
国内二创和摘要越来越多 一手源还在外面 报告、论文、工具站、流量看板 普通人真能用好几年 源帖吹了 10 个站 正文没把名字写全 我就不装我看过那张名单 我认的标准更简单 一个站能不能每周复用 能不能省掉一次付费墙或二手转述 能,就留 不能,就扔 信息差活在使用频率里 不活在收藏截图里
Local AI 最烦的一层
终于有人开始收了 以前两台电脑两张卡 我得自己记模型开在哪 Agent 连哪个 endpoint NVIDIA PAIR 想当家里的算力路由器 调度层起来之后 五个 Agent 可以分到不同机器 别再挤一张卡上互抢 我想测的是并行吞吐 不是单卡硬塞更大模型 那是下一场实验
Uncle Bob 开源了 swarm-forge
我更在意他顺手改掉的那条老纪律 他明确说 不会逼 agent 写一行测试再写一行正式代码 对人有意义 因为人的短期记忆就那么大 对 agent 没意义 真正不能违反的规矩 他从 CLAUDE.md 里搬出来 放进 CRAP、突变测试这种跑完才放行的工具 长提示词中间那段 模型会当成建议 规格驱动他刚试过 计划写得漂亮 agent 一跑就往荒谬处冲 他觉得这是瀑布的鬼魂 改动成本掉到接近零 前期规划
Qwen3.8-Max-0902 把 Opus-5-Max 压下去了
CodeArena WebDev 1688 对 1687 前面还有 Fable-5.1-Max 的 1765 这榜考全栈智能体 多步推理、调终端、把 Web 应用从空白做到能打开 还能看渲染截图修 CSS 错位 更扎手的是价 Qwen 百万 token $2 / $6 Opus $5 / $25 同一档智商 账单差出三四倍 我看这类榜单只记一件事 能跑完 agent 任务的模型 开始按「够用且便宜
Gemini 3.8 Flash 上架了
截图写着 New 输入输出每百万 token 是 0.75 和 3.75 美元 促销写到今年年底 原帖拿它去撞 Claude Opus 5 说成本连对方两成不到 我先看价 再看它给自己的定位 长程软件工程、自主 agent、复杂企业工作流 这是 Flash 在抢旗舰的活 便宜如果只换聊天 意义不大 便宜如果能扛过夜的 agent 循环 订阅面板上的红条会改人的选型 先跑自己的任务 海报上的百分比先
语音 agent 的取舍一直很烦
要聪明就贵、就慢 要便宜就在电话里卡壳 Pipecat 开出 PhoneLLM 开源权重 他们说效能能追 GPT-5.6 Terra 延迟大约三分之一 成本大约十八分之一 做法不神秘 把 NVIDIA Nemotron Nano 30B 做满血微调 专门喂电话客服 thinking 关掉 我关心的是场景模型又回来了 通用大模型在电话里浪费推理 专用的把工具调用和第一句开口练熟就够 视频里是跑起来的
不能让工程师花 token 的 IT 公司
我建议尽早退市 配图那页课更狠 没有 token 的 CS 学生 应该立即退学 我只认一句 token 是实验耗材 你不亲手烧 成本、质量、延迟这三项手感长不出来 不需要 tokenmaxxing 课堂用 deepseek-v4-flash 也行 缺的是值得烧的问题 和烧完怎么验收 把耗材锁掉 工程师就变成旁观者
Harness 重要度还在增加了
Harness 重要度还在增加了。当 scaling law 不起作用了,这个可以在boost 一下
Agent 把代码写完了
软件基本功反而更值钱 吴恩达说新手 vibe code 也能做出简单应用 可 Agent 常在延迟、可用性、一致性、成本上做坏选择 人若看不见取舍 就指挥不了它 登录和缓存放错位置 上线才掉会话 数据选错库 上下文会永远缺字段 我的判断 语法可以忘 取舍清单不能空
想用 Agent 做到 100 倍产出
先戒掉中间人审批链 DHH 跟 Lex 聊了五小时 我只带走能用的判断 不膜拜人设 生产力层级其实很冷 100X 的人直接开 Agent 不把人塞进审批环 等人点头的那几分钟 够 Agent 白跑一轮 少写规格 多开始摸 问题说清楚 先要一稿 再对着稿拧 你真正要什么 常在动手后才露出来 编程越来越像 vibe 以前一刀一刀雕 Ruby 现在拼愿景和品味 我更像编辑 策展人 最后说「这一刀留」的人
Qwen Next Flash
在 M 系列本地大概十五到二十 GB 就能跑 Wallm 已支持 M5 Pro 接 Codex 实测 Prefill 约六十 Decode 约八 峰值内存二十 GB 左右 还在实验 但方向很清楚 本地模型开始能塞进真实 agent 流程
Xcode 27 自带 Skills
导出一看 Apple 没在做「更长 Prompt」 它在把 Coding Agent 当成可加载专业能力的工程师 七个官方 Skill 覆盖很广 SwiftUI 审查 最新 SDK 真机点按验证 UIKit 现代化 测试迁移 安全审计 C 内存安全 最刺的是 device-interaction 不是教写代码 是让 Agent 把 App 跑起来 截图、点 UI、验结果 终点从「代码写完」 变成「
Mac Mini M4 本地跑 Ornith 9B
项目设计稿拿去测 居然能跟闭源旗舰硬碰 诀窍是给它足够时间 Thinking 它会拆任务、自己改框架 看着 LM Studio 里慢慢推 还挺疗愈 9B 吃资源少 完全离线无限刷 隐私留在本机 我看成 Local LLM 开始真能当 Coding Agent 用了
Ray Dalio 给新人的几条
我特别有感的是这句 Pain + Reflection = Progress 痛苦本身不会让人成长 真正让人成长的是你有没有复盘 刚进场别急着证明自己 先找对 mentor 和团队 多试 别太早定型 选文化比选职称更重要 我后来才信 环境会改写你的判断方式
1/5 ⚠️ 5条
一集播客里,Dylan Patel把AI算力这盘棋拆得很细 结论挺吓人:全球大部分算力、智力和生产力,可能会被压缩进OpenAI和Anthropic两家手里 2024到2029年全行业资本开支预计冲到11万亿美元 今年新增算力近30%流向这两家,明年底这个数字可能到50% 2/5 第一个反直觉:钱为什么停不下来 Anthropic现在每花10美元算力能挣回50美元营收,回报太猛 真卡产能的是物理瓶
一直用Loom录演示,CleanShot X截图打码,两个订阅加起来一年小一千
刚发现有个开源App叫Screendrop,把这两个活全干了 macOS原生,截图录屏Loom式分享一体 录完自带缩放动效、光标重建、按键字幕,转录字幕全在本机跑 分享走自己的Cloudflare账号,不用把内容交给别人的服务器 截图能直接浮层标注裁切打码,录屏能分轨编辑摄像头麦克风系统声音 连提词器和Siri快捷指令都配齐了 1.3K星,今天还在涨 这种"一个开源App顶两个订阅"的事,越来越常
面试官出的AI Coding题,大部分人只有考完那一次机会看到
这次有人把三道真实公司的面试题开源了 作者做过匿名化处理,公司和面试官信息全部拿掉,但技术目标和验收标准原样保留 三道题分别是 Computer Use Agent Dashboard,一个带隔离桌面的Agent系统 React Native截图行动Agent,48小时限时,考多模态和原生工具调用 Jira风格任务管理系统,一天内交付MVP 91颗星,说明不少人已经在按这份题库练手 面试信息差这件
2018年,两位计算机架构大师在图灵奖演讲上说了一句话
"下一个十年会迎来架构的寒武纪大爆发" 当时听着像句漂亮话,现在看是精准预言 GPU、TPU、LPU、晶圆级引擎、神经形态芯片,十几种架构路线全在认真研发 刚读完一篇文章,把这些路线拆得很细 谁在训练,谁在做推理,谁被收购,写得一清二楚 Groq被英伟达20亿美元收编,Cerebras转头去给OpenAI做推理,这场芯片赛道的洗牌比想象中快 这篇是我读过最好的AI芯片科普,值得花时间看完
千问刚发的Qwen3.8-Flash,价格是真的狠
百万token输入1块钱,输出3块钱 上下文原生26万token,拉伸能到1M 能做到这么便宜,靠的是MoE架构的老套路 总参数125B,但每个token只激活6B 剩下的参数全是"备用军",不用的时候不烧钱 比较有意思的是它的Attention设计 用GDN压缩历史信息,再用QSA在micro-block粒度筛掉不重要的上下文 相当于先粗筛一遍,再精细计算,这就是长序列成本降下来的关键
前几天各大榜单上冒出一个叫Ox Alpha的匿名模型
分数很高,没人知道是谁做的 猜测传了一周 今天彭博社一问,智谱直接认了 Ox Alpha就是GLM系列的新版本,今晚放权重 规格也一起放出来 1M上下文,原生支持文字图片视频输入,冲的是编程和长程Agent 社区已经提前给它起好了名字,GLM-5.3 Flash 匿名刷榜这套打法,现在成了新模型上线的标准流程
我以前把同事分成“厉害”和“不厉害”两种
后来发现真正决定办公室气氛的是另一套分类 一种人在场,事情会变简单 一种人一出现,事情会变麻烦 多数人只想靠近第一种,躲开第二种 但躲不是长久的办法 你迟早会撞上,学会他们的逻辑比躲更管用 第一种人的本事是扛得住复杂还能让人安心 第二种人的本事是懂得怎么把事情变成别人的问题 分辨他们是第一步 学会他们的做事方式,才是你在职场活下来的底气
开源模型最冤的死法
是被笔记本性能判死刑 有人租 RTX PRO 6000 96G 一小时大概一美金 塞进 Qwen 27B 的高量化 智力够 限制少 生成大约四十 tokens 每秒 我认这句玩笑背后的认真 有些模型 要配得上它的显存才像它自己
NVIDIA 把 Agentic AI 拆成六门课
我翻了一遍路径 比「再看一个 Agent demo」有用 怎么搭 Agent 怎么做 Agentic RAG 怎么评测 怎么定制 怎么做更深的 Agent 最后一门直接讲更安全的自主 Agent 很多人卡在第一课的兴奋感里 真正分水岭往往在评测和安全 能跑起来和敢放出去 中间差一整段工程
同一个概念 对小孩和对经理讲
同一个概念 对小孩和对经理讲 本该是两篇东西 我最近看到一个 Claude Code Skill 叫 ELI5 你先指定听众是谁 它再改术语密度和比喻 小孩少塞黑话 工程师保留正确术语 对 Manager 改讲成本、结果、风险 作者拿它跟原生 Claude 同题对打 ELI5 大约八成命中 原生掉到四成左右 我自己读 API、Agent 架构时最烦的 就是解释永远默认「懂的人」 这个 Skill
用 Modal 部署 Qwen3.8 27B:从 Endpoint 创建到本地调用的完整实战
如果只是在线体验模型,打开网页即可;但如果希望把模型接入自己的应用,就需要一个稳定、可鉴权的服务入口。 Endpoint 的价值在于: - 为模型提供统一的 API 地址 - 允许自己的应用通过 Token 调用 - 可以查看部署状态、GPU 配置和运行情况 - 能够通过 Quickstart 或代码示例快速接入 - 可以设置预算上限,避免测试时产生不可控费用 这次实战的目标,是把 Qwen3.8
七夕到了,恋爱中学会这 11 个技能,谁都招架不住。
1. 上下文压缩 2. 长期记忆检索 3. Function Calling 4. MCP 工具调用 5. 多模态理解 6. Agent 自主规划 7. RAG 检索增强 8. Structured Output 9. Computer Use 10. 递归自我改进 11. v我50
Claude Code 做到一半关掉
同一目录打开 Codex 不用再解释架构、踩过的坑、没答完的问题 ai-memory 给 coding agent 做长期记忆 会话结束写成 wiki 下一个 agent 先读交接 换模型不难 难的是上下文每次归零
8GB 显存到底能跑多大模型
别再靠感觉了 llmfit 扫一眼你的内存、CPU、显卡 按「能不能塞进去」「会不会卡死」「质量够不够」打分 我刚测过 27B 塞进 8GB 这种工具本该先跑一遍 再下载那十几个 G
Cloudflare 上又多了个能直接部署的邮件工作台:HQBase。
不是又一个 SMTP 客户端,而是多域名、收发加 AI 操作的管理工作台,存储用 D1 和 R2。跟官方 Agent Inbox 同赛道,开源可自托管。 想把「收信→处理」收进自己基建、少依赖第三方收件箱面板的,值得收一下。