AI技能目录实测占用数万上下文token
AI 总结
掘金AI作者扫描570个SKILL.md文件,得到402个不重复技能,其名称与描述合计估算为45,634 tokens。作者称技能正文按需加载,但目录每轮对话都要提供;将启用项精简至30个后,估算占用降至7,683 tokens。数据来自基于字符数的本机估算,而非平台tokenizer,所引Hermes Agent数据也未获复现。
深度见解
文中的可复现脚本与合并路由、精简描述、按需启用的方法,为测量和控制技能目录开销提供了实用方案。
一、先说我量到了什么
Hermes Agent 的 issue 区有人贴过一组数:243 个技能,每次调用多 10 到 15K tokens;130 个,大概 4K。
我不太信,就把自己机器扫了一遍。
结果:磁盘上躺着 570 个 SKILL.md,去重之后是 402 个技能。只算每个技能的 name 和 description,92,006 个字符,折合约 45,634 tokens。
注意,这不是技能的正文。正文是"按需加载"的,你不用它就不进上下文。我量的这 4.5 万,是目录——那本告诉你"我这里有什么"的册子。
而册子是每一轮对话都要摊开在桌上的。