emacs-org/roam/20260217205442-daneel_rag.org

Daneel - RAG

• QMD Memory Backend
  • Problém
  • Řešení
  • Aktuální stav
  • RAG analýza

QMD Memory Backend

Problém

memory_search vracel prázdné výsledky i když QMD index byl správně naplněn.

Root cause: qmd query (defaultní mód) posílá cmake/node-llama-cpp build output na stdout místo stderr. Bridge parsuje stdout jako JSON — první [ narazí na [node-llama-cpp], JSON.parse selže → výsledek [].

Řešení

Přepnout searchMode z query na search v openclaw.json. Mód search = BM25+vector bez LLM query expansion. Žádné cmake, žádné extra modely, rychlejší.

{ "memory": { "backend": "qmd", "qmd": { "searchMode": "search" } } }

Aktuální stav

• 34 souborů indexováno, 92 vektorů
• Embedding model: embeddinggemma-300M (314 MB, lokální, CPU)
• memory_search funguje, score 0.8–0.9
• Pravidlo: dotazy vždy anglicky (lepší recall)
• Bug nenahlášen upstream

RAG analýza

Workspace soubory celkem: ~5 200 tokenů = 2,6 % context okna (200K). RAG teď nedává smysl — úspora příliš malá, riziko vynechání pravidel. memory_search (QMD) = fakticky RAG pro cold storage (30+ daily logů).

Přehodnotit až overhead > 15 % (~30K tokenů). Při aktivním pruning to v dohledné době nenastane.