一句话简介:
脑 = DeepSeek · 手 = 工具执行 · 记忆 = 四层上下文保持
AgentFrame 是一个专为 AI Agent 设计的上下文保持框架。通过四层流水线架构(认知→路由→存储→物理),解决大模型在长对话、多轮任务中的记忆丢失、显存爆炸和上下文断裂问题。
技术栈: Python · DeepSeek API · INT4量化 · 向量检索 · REST API
核心能力与量化结果
架构亮点:
· 四层流水线:L1 MetaCog(任务分解/信息缺口/遗忘曲线)→ L2 LandmarkRouter(地标检索/分层Softmax)→ L3 AbsorbedMLA(吸收式MLA/INT4量化)→ L4 KVPager(三级换页)
· 分层存储组织:Sector(16)-Block(256)-Module(1024) 硬件对齐设计
部署与使用
安装方式:
```bash
pip install -e /path/to/agentframe
```
三种使用方式:
· CLI:ingest 摄入知识 / ask 查询 / stats 查看状态 / forget 触发遗忘
· REST API:python3 -m agentframe.api.server 8090
· Python 库:直接导入 ContextEngine 编程调用
配置示例:
```bash
export AGENTFRAME_API_KEY="sk-xxx"
export AGENTFRAME_MODEL="deepseek-v4-pro"
```
项目价值
解决的问题:
· 长对话中模型“忘记前面说了什么”
· KV 缓存随上下文增长导致显存爆炸
· 多轮任务中上下文碎片化、检索效率低
技术壁垒:
· 28.4x KV 压缩在 L40S 上真实推理实测
· 四层正交架构可独立插拔、灵活组合
· GPL-3.0 协议开源,代码完整可跑
需求方专属客服,免费梳理匹配
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如当前档期不合,也可免费为您推荐相似案例作者