Longlong418/knowme-memory-gate-model-grpo
0369
KnowMe Memory Gate
面向个人 Agent 长期记忆检索的轻量级本地模型。
本模型基于 Qwen3-1.7B，经过 LoRA SFT + GRPO 后训练，用于完成两个任务：
- 判断当前用户输入是否需要检索长期记忆；
- 在需要检索时，生成适合 SQLite FTS5 / BM25 的高信号检索 query。
对应项目：
- KnowMe: https://github.com/Longlong418/KnowMe
- Post-training: https://github.com/Longlong418/KnowMe-memorygatemodelposttrain
模型信息
模型输出格式：
{
"retrieve": true,
"query": "新服装品牌 首次购物 体验",
"reason": "需要查看相关历史信息"
}字段说明：
retrieve：是否需要读取长期记忆；query：真正发送给检索器的关键词；reason：给用户展示的简短原因。
评测结果
Standard Test
Distractor-Augmented Retrieval
在候选记忆池中加入额外干扰记忆，测试 query 的检索和排序能力。
Checkpoint 仅使用 dev set 选择，test set 只用于最终结果汇报。
输入格式
模型训练时使用单个 user message，不使用独立的 system role。
推荐输入：
You are a retrieval gate for a personal assistant's long-term memory.
Given the user's current message, decide whether answering well requires the user's stored long-term memory.
Long-term memory may contain facts, preferences, past events, prior conversations, decisions, plans, ongoing work, or personal constraints.
Reply with ONLY this JSON, nothing else:
{"retrieve": true/false, "query": "<2-6 high-signal search keywords if true, else empty>", "reason": "<一句中文，给用户看，不超过15字>"}
Rules:
- General knowledge, math, coding, small talk, translation, rewriting, and other self-contained requests usually do not need memory.
- Retrieve when important information needed to answer is missing from the current message but may exist in long-term memory.
- Retrieve when relevant stored preferences, constraints, previous decisions, ongoing projects, or personal history would materially improve the answer or prevent a conflicting answer.
- Do NOT retrieve merely because the message mentions the user, their life, another person, a project, or the past.
- If the current message already provides all personal information needed to answer well, do NOT retrieve.
- When retrieve=true, query must contain 2-6 concise, high-signal keywords derived ONLY from the current message. Do not invent hidden facts or answers.
- For Chinese queries, separate important search terms with ASCII spaces.
- When retrieve=false, query must be an empty string.
- Never return an array.
User message: {当前用户输入}Chat Template
部署时需要保持与训练一致的 Qwen3 chat template。
训练时实际输入结构为：
<|im_start|>user
{完整 Gate Prompt}<|im_end|>
<|im_start|>assistant
<think>
</think>对于 GGUF / Ollama，推荐使用：
{{- range .Messages }}
<|im_start|>{{ .Role }}
{{ .Content }}<|im_end|>
{{- end }}
<|im_start|>assistant
<think>
</think>不建议使用裸 {{ .Prompt }} 模板，否则推理分布会与训练阶段不一致。Ollama
如果使用 GGUF 版本，在 GGUF 文件同目录创建 Modelfile：
FROM ./knowme-memory-gate-model-grpo-f16.gguf
PARAMETER temperature 0
PARAMETER num_predict 128
PARAMETER stop "<|im_end|>"
TEMPLATE """{{- range .Messages }}
<|im_start|>{{ .Role }}
{{ .Content }}<|im_end|>
{{- end }}
<|im_start|>assistant
<think>
</think>
"""创建模型：
ollama create knowme-memory-gate -f Modelfile运行：
ollama run knowme-memory-gateOpenAI-compatible API
Ollama 默认提供本地 API：
http://127.0.0.1:11434/v1示例：
from openai import OpenAI
client = OpenAI(
base_url="http://127.0.0.1:11434/v1",
api_key="ollama",
)
response = client.chat.completions.create(
model="knowme-memory-gate",
messages=[
{
"role": "user",
"content": gate_prompt,
}
],
temperature=0,
max_tokens=128,
)
print(response.choices[0].message.content)其中 gate_prompt 应为上文完整 Gate Prompt 与当前用户消息拼接后的文本。
与 KnowMe 的关系
本模型是 KnowMe 长期记忆模块中的 Memory Gate。
调用链：
User Message
↓
Memory Gate
↓
retrieve=false ──→ Skip memory retrieval
↓
retrieve=true
↓
Generate Query
↓
SQLite FTS5 / BM25
↓
Retrieve Facts / Episodes
↓
Agent Context模型只负责：
是否需要检索
+
生成什么 Query真正的记忆存储和检索由 KnowMe 完成。
数据
训练与评测数据由公开 memory benchmark 构造，包括：
- LoCoMo
- LongMemEval
- PersonaMem-v2
- RHELM
训练仓库与真实用户数据完全隔离，不读取 KnowMe 的 .knowme/state.db，也不会复制真实用户记忆用于训练或评测。
说明
- 本模型仍保留 Qwen3-1.7B 的基础语言能力，但推荐只作为 Memory Gate 使用。
- 部署时建议保持训练阶段的 Prompt、Chat Template 和
thinking=false设置。 - GGUF F16 适合高精度本地测试；低显存设备可进一步量化为
Q4_K_M。