Local AI 最烦的一层

Local AI 最烦的一层
终于有人开始收了

以前两台电脑两张卡
我得自己记模型开在哪
Agent 连哪个 endpoint
NVIDIA PAIR 想当家里的算力路由器

调度层起来之后
五个 Agent 可以分到不同机器
别再挤一张卡上互抢

我想测的是并行吞吐
不是单卡硬塞更大模型
那是下一场实验

www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/