vLLM 一重启缓存就失忆｜LMCache 把 KV cache 搬出进程外，这笔账我替你算过
LMCache 把 KV cache 从推理进程里搬出来，落到 CPU 内存和 SSD 里跨请求、跨重启复用。我翻完官方文档、兼容性矩阵和 909 个开放 issue：官方基准 TTFT 降 75%，但短…
别的助手用完就忘｜Hermes Agent 自己攒技能自己长记性，25.9 万 star 我先拆了它的安装脚本
Hermes Agent 是 Nous Research 的开源智能管家，25.9 万 star。我把它的记忆与技能闭环、MCP 集成和 1302 行安装脚本拆开对了一遍：学习闭环是真本事，但 smart 审批出过数据丢失，token…
改提示词别再靠手感了｜promptfoo 被 OpenAI 收编后，我把它装了一遍
改一版系统提示词就上线，翻车了才发现没有基线。promptfoo 用 YAML 把测试矩阵固化进 CI，我装完用内置 echo provider 零 key 跑通了第一张矩阵。被 OpenAI 收编后它仍维持 MIT 开源，26,708 个 star，近四周 441…
每天 2000 次免费请求的攻略都过期了｜Qwen Code 装完一遍，我把新旧两本账算清
我顺着群里还在传的免费攻略去装 Qwen Code，结果发现 OAuth 免费通道 4 月就停了。装完、翻完源码和文档，把它的多协议真本事、Agent Arena、烧 token 的坑和现在的正确用法一次说清。
Agent 挂在哪一步，print 查不出来｜Langfuse 我没急着装，先把运维账算清
Langfuse 我没急着装：先把它 3.6 万 star、近四周 839 次提交的家底翻了一遍。六容器自托管的内存账、密钥三件套的坑、v4 宽表架构的取舍，加上我抽检 SDK 的真实结果，都在这篇手记里。
让模型学会说你的行话｜ms-swift 上手前，我把它 600 条 issue 翻了一遍
ms-swift 是魔搭官方的微调框架，我对着文档和 600 条 issue 把它翻了一遍：600 多个模型一条命令微调，单卡 13GB 就能跑 Qwen3，新模型当天适配。坑集中在思考标签和分布式…
凌晨挂掉的备份脚本没人喊你｜Dagu 一个二进制接住散装脚本，丑话说在前面
散装 cron 脚本挂了没人知道，是我真的疼过的场景。Dagu 用一个 Go 二进制把依赖、重试、日志、历史补齐，脚本一行不改，还内置 Web UI。这篇我把它的文件态存储、YAML…
别再为几万条笔记起一个向量库服务了｜Zvec 进程内实测，3 个坑我替你踩了
为了搜几万条笔记，我曾拉起一整套 Milvus 集群，结果发现客户端 SQLite 检索结果一样准。阿里开源的 zvec 把向量库直接塞进进程里，我装完实测：5 万条 768 维查询 p50 1.88 毫秒，中文 jieba 分词开箱即用，混合检索强制要求 reranker。但它单进程独占写入，README…
三个小时的会我只想要一份能用的文字｜FunASR 装完，我卡在断句上
三个小时的会议录音，我原来那套 whisper.cpp 流水线要手工校两小时。FunASR 在 M2 上跑通了：5.55 秒音频 1.2 秒出结果，带时间戳和说话人。但它不是装完就能用的东西——标点模型 1.1GB…
向量库救不了长文档｜PageIndex 的树索引，我装完试到摘要那步就停了
合同切八百字一块，问违约金召回八段全是付款条款。我换了个思路：PageIndex 把文档目录做成树让模型走。离线建树跑通了，检索卡在没有 key。39,794 star，方向我认，地基还没验收完。
