Plugin: long_memory – persistent memory with semantic search for dumb orchestrator

[cherninkiy]

English

Summary

Implement a long_memory plugin for persistent storage of conversations and facts with semantic search.

Concept

• Storage: ChromaDB + SQLite (local, no API)
• Embeddings: all-MiniLM-L6-v2 (sentence-transformers)
• Interface: run(input_data: dict) -> dict

Actions

• save – store conversation/fact with metadata (session_id, project, timestamp)
• search – semantic search with optional metadata filters
• get_session – retrieve full session history
• load_longmemeval – load LongMemEval dataset for benchmarking (optional)

Integration with dumb orchestrator

The model decides when to call save (e.g., after each dialogue) and when to call search (when context is needed). Memory structure evolves through metadata defined by the model.

Related ADR

LongMemEval benchmark context: ADR-088: LongMemEval Benchmark for AgentDB Memory System

Status

• Create branch plugin/long-memory
• Minimal version (save + search)
• Test on real dialogues
• (Optional) Adapt for LongMemEval

---

Русский

Кратко

Реализовать плагин long_memory для долговременного хранения диалогов и фактов с семантическим поиском.

Концепция

• Хранение: ChromaDB + SQLite (локально, без API)
• Эмбеддинги: all-MiniLM-L6-v2 (sentence-transformers)
• Интерфейс: run(input_data: dict) -> dict

Действия

• save – сохранить диалог/факт с метаданными (session_id, project, timestamp)
• search – семантический поиск с фильтрацией по метаданным
• get_session – получить полную историю сессии
• load_longmemeval – загрузить датасет LongMemEval для бенчмарка (опционально)

Интеграция с dumb orchestrator

Модель сама решает, когда вызывать save (например, после каждого диалога) и search (когда нужен контекст). Структура памяти эволюционирует через метаданные, которые задаёт модель.

Связанный ADR

Контекст бенчмарка LongMemEval: ADR-088: LongMemEval Benchmark for AgentDB Memory System

Статус

• Создать ветку plugin/long-memory
• Минимальная версия (save + search)
• Протестировать на реальных диалогах
• (Опционально) адаптировать под LongMemEval

[m13v]

good combo. heads up on ChromaDB: it adds ~2-3 seconds of startup latency compared to pure SQLite with embedded vectors. if the orchestrator needs to spin up quickly, consider storing embeddings as BLOBs in SQLite and doing cosine similarity in Python. you lose Chroma's indexing but for conversation memory sizes (thousands of entries) it's fast enough. for the model, all-MiniLM-L6-v2 is solid for English but since you're dealing with mixed language content, multilingual-e5 might give better recall.

[m13v]

our embedding pipeline that stores vectors as SQLite BLOBs with cosine similarity search, no Chroma needed: https://github.com/m13v/ai-browser-profile/blob/main/ai_browser_profile/embeddings.py