billion-context 发布长会话压缩插件
billion-context 项目发布了一款面向长期编程智能体会话的上下文压缩插件，并以“billion-context”之名通过 npm 分发。项目在 GitHub 说明中称，该插件在客户端与模型 API 之间采用模型驱动、可逆的分层压缩，并声称可节省五倍 token、维持 95%–97% 的前缀缓存命中率，压缩开销不超过 2%；供应材料未独立验证这些数据。
该插件试图通过压缩对话历史而非设置硬性上下文上限，缓解长期运行的编程智能体所面临的上下文窗口限制。
A context-compression plugin for month-long single sessions (billions of tokens) ,small context windows (a 100K context is enough) and token savings (5x fewer tokens) .上下文压缩插件，月级长会话会话， 兼顾小窗口(100k上下文足矣)省token(省5倍token) . billion-context is all you need
billion-context
Context-compression plugin — billion-context is all you need.
small context windows (100K is enough) · 5× fewer tokens · month-long single sessions (billions of tokens) · high compression quality
部分来源内容未展示，可前往原文继续阅读。
#billion-context#Anthropic#OpenAI#DeepSeek V4.1 Flash#Qwen3-Embedding-8B#Qwen3-Reranker-4B#Pi Agent