feat(memory): conflict-aware structured facts with multilingual-safe retrieval

[luke-n-alpha]

Goal

Make contradiction and supersession handling a first-class, evidence-preserving memory capability: retain original memories, derive optional structured fact candidates, connect conflicts/supersessions, and use those signals only to rerank returned memories.

Why now

The current Korean retrieval contract exposes a real failure mode: a generic RRF correction improved relevance but also increased forbidden/contradictory results (baseline: hit@1 6.3%, hit@5 56.3%, MRR .226; forbidden@1 25.0%, forbidden@5 43.8%). The candidate was reverted. This issue addresses the root cause rather than tuning another rank weight.

Constraints

• Preserve raw source memories and their IDs; never overwrite/delete a prior memory merely because a later fact conflicts.
• No natural-language response policy, abstention policy, or language-specific ranking constants.
• Korean is the first validation language, but data model and retrieval policy must remain language-neutral with explicit extraction uncertainty/fallback.
• Keep LocalAdapter behavior compatible unless an explicitly versioned metadata field or API extension is required.
• CPU benchmark evidence only; GPU1 belongs to a different session.

Acceptance criteria

• Write a decision/design record with alternatives, multilingual boundary, data flow, and measurable retrieval contract.
• Add an append-only structured-fact representation that links to source memories and records extraction confidence/status.
• Detect compatible subject/property conflicts or supersession without deleting source memories.
• Retrieval can prefer a current compatible fact while still exposing the historical source chain.
• Add Korean contradiction/supersession tests plus a held-out evaluation split; report both relevance and forbidden-result rates.
• Run adversarial review and record outcome before release/push.

Initial status

Investigation and plan are in progress. Each phase will be posted as an issue comment with evidence and blockers.

[luke-n-alpha]

조사·범위 확정 (P01/P02 진행)

확인한 현재 상태

• Fact에는 이미 원본 보존용 status, supersedes, successorId, validFrom/validTo, sourceEpisodes가 있다. 기본 검색은 superseded 사실을 숨기고, history/at-time에서 이력을 되돌린다.
• 그러나 충돌 판정은 원문 토큰 겹침·부정 표현·LLM 프롬프트에 의존한다. 예: 한국어 “이사/이제 … 쓰기로”는 결정론 휴리스틱에서 놓친다는 회귀 테스트가 있다.
• 현재 LocalAdapter 재정렬에는 content.split(":")[0] 기반 속성 추정도 남아 있어, 언어별 문장 형식에 취약하다.
• 기존 한국어 계약은 16개 공개 진단 케이스이며, RRF 후보는 hit@5를 56.3%→68.8%로 올렸지만 금지 사실 노출도 43.8%→50.0%로 악화되어 채택하지 않았다.

범위 결정

1. 원문 content와 모든 source episode는 불변으로 보존한다.
2. 추가 필드로 선택적 구조화 사실 후보(subject/property/value, polarity, extraction status/confidence)를 넣고, 구조화 근거가 없으면 기존 텍스트 흐름으로 안전하게 폴백한다.
3. 같은 subject+property의 상충만 체인으로 연결한다. 다중값 속성·모호한 추출·서로 다른 개체는 절대 자동 supersede하지 않는다.
4. 검색 계층은 현재·호환 사실을 우선 반환할 뿐, 답변·abstention·자연어 의도 판정은 구현하지 않는다.
5. 한국어를 첫 검증 언어로 삼되, 언어별 순위 상수나 한국어 전용 분기 없이 다국어 입력을 보존/폴백한다.

다음: 구조·테스트·공개/보류 평가 분리를 설계 문서로 고정하고, 적대 검토 뒤 구현한다.

[luke-n-alpha]

계획·요구사항 고정 (P01–P03 완료)

구현 전 계약을 다음 문서로 고정했습니다.

• 설계: docs/design/conflict-aware-structured-facts.md
• 사용자·테스트 시나리오: docs/user-scenarios.md의 UC-MEM-01, UC-MEM-02
• 요구사항: docs/requirements.md의 MEM-FR-01..03, MEM-NFR-01

실행 순서:

1. StructuredFact(subject/property/value/polarity/cardinality/provenance)를 선택 입력으로 추가하고 원문 Fact를 보존한다.
2. 구조화된 single-value 사실끼리만 동일 subject/property 및 반대 값일 때 supersession chain을 만든다. 구조가 있으면 기존 텍스트/LLM 모순 판정으로 되돌아가지 않는다.
3. Local·Qdrant·SQLite 저장 경로에서 구조 메타데이터를 보존한다. SQLite는 기존 DB에 대한 additive migration을 포함한다.
4. 한국어를 첫 회귀 케이스로 하되, 언어 판별·번역·한국어 전용 규칙은 추가하지 않는다. 영어·일본어도 같은 불투명 문자열 비교 규칙으로 검증한다.
5. CPU 전용 회귀/저장 round-trip/typecheck를 실행하고, 적대적 설계 검토와 결과를 이 이슈에 남긴다.

안전 경계: raw 원문 삭제 없음, 다중값·모호한 속성은 자동 대체하지 않음, naia-memory는 자연어 의도/응답/abstention을 구현하지 않음. GPU 1은 사용하지 않는다.

[luke-n-alpha]

구현·검증 진행 상황

구현 완료 범위:

• 선택적 StructuredFact를 Fact/추출 결과에 추가했습니다. 원문 content는 그대로 보존합니다.
• 구조가 주어진 경우, 동일 프로젝트에서 같은 subject/property의 single 사실만 보수적으로 supersede합니다. 다중값·다른 속성·구조 없는 사실은 자동 대체하지 않습니다.
• LocalAdapter의 lifecycle chain 필드 보존을 보강했고, SQLite에는 structured_fact additive migration 및 round-trip 경로를 추가했습니다.
• LLM 추출기는 기존 문자열 배열 응답을 그대로 허용하고, 명시적 구조 객체 응답만 추가로 수용합니다. 언어 감지·번역은 하지 않습니다.

검증:

• pnpm typecheck 통과
• pnpm test 통과: 24 files / 394 tests
• 한국어 교체+원문 chain 보존, 영어/일본어 동일 규칙, 다중값/서로 다른 속성의 비대체를 회귀로 추가했습니다.

적대적 게이트 결과는 NOT_CLEAN / REVIEW_ONLY입니다. review-pass 사전 점검이 변경된 src/memory/index.ts와 src/memory/adapters/local.ts의 기존 임계 초과를 REFACTOR_REQUIRED로 판정했고, 범위 내 complexity waiver가 없습니다. 따라서 기능 검증은 통과했지만 이 상태로 커밋/푸시 또는 릴리스 승인이라고 주장하지 않습니다. 상세: reports/quality/issue-39-adversarial-review-2026-08-13.md

[luke-n-alpha]

진행 업데이트 — P04 통합 검증 완료.

• 구현: 원문 episode 단계에서는 semantic fact를 자동 대체하지 않고, consolidation에서만 명시적 structured 주장으로 보수적으로 supersede합니다.
• 안전 규칙: affirmed + single + 동일 subject/property + 다른 value만 대체합니다. 부정, 다중값, 속성 불일치, 구조 누락은 append-only/기존 경로입니다.
• 검증: pnpm typecheck 통과, pnpm test 통과 (24 files / 395 tests), git diff --check 통과. 한국어 체인 보존, English/Japanese 언어중립 키, SQLite round-trip, 구조화 LLM 출력 유효성까지 회귀로 고정했습니다.
• 독립 리뷰: OpenRouter 모델 탐색 및 availability probe를 시도했으나, 구성된 키의 total limit 초과로 probe가 거절되었습니다. 외부 모델 리뷰 결과는 주장하지 않습니다.
• 공식 게이트: review-pass 사전 점검은 기존 변경 대상 src/memory/index.ts 및 src/memory/adapters/local.ts의 critical-file 복잡도 상한 때문에 NOT_CLEAN / REVIEW_ONLY입니다. 따라서 P05(릴리스/커밋·푸시)는 아직 열지 않으며, 리팩터링 또는 승인된 scoped waiver가 필요합니다.

상세: reports/quality/issue-39-adversarial-review-2026-08-13.md

[luke-n-alpha]

게이트 해소 작업을 시작했습니다. 임시 waiver는 만들지 않고, index.ts의 메모리 오케스트레이션과 compaction/보조 책임, local.ts의 검색 보조 책임을 각각 독립 모듈로 분리합니다. 또한 구조화 사실 회귀 테스트를 별도 파일로 옮겨 경고 임계치도 해소한 뒤 동일한 formal preflight를 다시 실행하겠습니다.

진행 중에도 이 이슈에 검증 결과를 이어서 기록합니다.

[luke-n-alpha]

중간 검증: 타입 검사와 전체 테스트는 통과했습니다 (25 files / 395 tests). 그러나 공식 preflight는 새 모듈에 적용하는 250줄 성장 기준과 기존 파일의 800줄 기준 때문에 아직 NOT_CLEAN입니다.

확인된 잔여 대상은 local.ts(1,191줄), memory-system-core.ts(976줄)와 이번에 만든 support/capability 모듈입니다. 동작 변경이나 waiver 없이 이들을 encode·recall / consolidation / lifecycle 및 local persistence·search 경계로 더 분할 중입니다. 다음 댓글은 clean preflight 또는 남은 구체적 차단 근거와 함께 남기겠습니다.

[luke-n-alpha]

P05 진행 업데이트 (2026-08-13)

• 공개 API, 통합 원시함수, 대화 압축 유틸을 각각 memory-system-api.ts(246줄), consolidation-primitives.ts(185줄), compaction-helpers.ts(231줄)로 분리했습니다. 패키지 진입점의 공개 export는 유지했습니다.
• 검증: pnpm typecheck 통과, pnpm test 25 files / 395 tests 통과, git diff --check 통과.
• 공식 preflight는 아직 NOT_CLEAN입니다. 남은 정확한 대상은 src/memory/adapters/local.ts 1,191줄, memory-system-core.ts 978줄, memory-system.ts 500줄입니다. 새로 분리한 세 파일은 모두 OK입니다.
• 다음: 동작 변경 없이 local adapter 저장/검색 책임과 MemorySystem 실행 경로를 250줄 이하 모듈로 계속 분리한 뒤 같은 검증을 재실행합니다. waiver나 임계치 완화는 사용하지 않습니다.

[luke-n-alpha]

P05 구조 분리 진행

• MemorySystem에서 롤링 요약을 memory-system-rolling.ts(70줄), 대화 압축·핸드오프를 memory-system-compaction.ts(63줄)로 분리했습니다. 공개 MemorySystem은 해당 계층을 상속해 기존 API를 유지하며, 본체는 500줄에서 223줄이 됐습니다.
• 검증 재실행: pnpm typecheck 통과, pnpm test 25 files / 395 tests 통과, git diff --check 통과.
• 다음 분리 대상은 memory-system-core.ts의 실행·통합 루프와 adapters/local.ts의 저장소 책임입니다. 공식 preflight가 clean이 될 때까지 동일한 검증을 반복합니다.

[luke-n-alpha]

진행 업데이트 — 2026-08-16 (적대 리뷰 게이트 재개방)

현재 릴리스/푸시 게이트는 NOT CLEAN입니다. GPU1은 사용하지 않았고 검증은 CPU에서 수행했습니다.

통과한 로컬 검증

• pnpm typecheck 통과
• 전체 테스트 28 files / 414 tests 통과
• SQLite WIP 회귀 9 tests 통과

독립 적대 리뷰 결과

수정 후 독립 리뷰에서 추가 actionable finding 13건이 발견되어 2회 연속 CLEAN 카운트를 0으로 재설정했습니다. 주요 차단 항목:

1. SQLite RRF 후보를 점수 정렬 전에 50개로 절단
2. 기존 vec0 차원 불일치 및 임베딩 활성화 시 기존 fact 미백필
3. 재임베딩과 일반 upsert의 원자성/동시 writer 안전성 부족
4. 원격 HF revision이 실제 inference 요청에 고정되지 않음
5. 한국어 FTS 토큰이 ASCII \w 처리로 소실
6. hot tier 강도 하락 시 오래된 벡터 잔존
7. strict scope 벡터 경로의 선형 스캔/metric 불일치
8. worker 오류/종료 시 pending promise 정리 부족
9. 일부 미구현 SQLite API가 성공을 가장함
10. 보고서 수치와 현재 receipt 수치 불일치

증거 상태 정정

현재 benchmark-evidence-loop-2026-08-13.md의 RRF/vector-only 수치가 링크된 최신 artifact와 일치하지 않습니다. 따라서 해당 비교 결론은 재생성 및 해시 검증이 끝날 때까지 publication evidence로 사용하지 않습니다. 현재 단계에서 글로벌/SOTA 우위는 주장하지 않습니다.

다음 순서

• P0: 후보 정렬, 차원/백필 migration, upsert/reindex 원자성, 한국어 FTS 수정
• P1: worker lifecycle, hot-tier 정리, unsupported API fail-closed
• 벤치 입력/구현 hash를 고정해 모든 publication variant 재생성
• 독립 적대 리뷰 2회 연속 CLEAN 후에만 커밋/푸시 및 배포 판정

상세 리뷰와 수정 증거는 reports/quality/issue-39-adversarial-review-2026-08-13.md에 누적 기록합니다.

[luke-n-alpha]

[naia memory] 진행 업데이트 (CPU only, GPU1 미사용)

SQLite 정확성 P0 수정 진행 중입니다.

• fact/FTS/time/vector upsert를 worker 단일 transaction으로 통합
• embedding 실패 시 fact만 남는 부분 인덱싱 차단
• embedding space + dimensions 검증 및 명시적 전체 reindex/backfill
• generation 확인으로 reindex 중 동시 변경 감지
• hot-tier 강등 시 stale FTS/vector 제거
• 한국어 Unicode FTS query 보존
• RRF 후보를 점수 정렬 후 bound 적용
• strict project vector scan을 bounded + sqlite-vec와 동일 L2 metric으로 변경
• worker 종료/실패 pending promise 정리, 보존형 archive delete 구현
• sqlite-vec의 k+LIMIT 동시 사용 런타임 오류 발견 및 수정
• HF hosted alias는 실제 revision pin 보장이 없어 immutable identity 주장 철회

현재 중간 게이트: typecheck PASS, 기존 전체 414 tests PASS, 확장 SQLite smoke는 수정 후 재실행 예정. 아직 CLEAN/배포 가능 판정 아님. 다음: 전체 재검증 → 독립 적대 리뷰 2회 CLEAN → 벤치 receipt 재생성.

[luke-n-alpha]

[진행 업데이트 2026-08-16]

• SQLite 안정화 변경의 결정론적 review-pass preflight를 다시 수행했습니다.
• 기존 강제 차단(src/memory/adapters/local.ts 806 lines)은 799 lines로 낮춰 해소했습니다.
• 현재 게이트는 REVIEW_REQUIRED이며 complexity digest는 sha256:4433fcfb391c11137e42e7c0c609cc6d50738d8b68d5d01262afed1875cd641a입니다.
• 남은 WARN은 local.ts 분해 필요성 판단 1건입니다. 기능별 모듈 분리는 이미 진행되어 즉시 추가 분해가 필요한지 적대 리뷰에서 확인 중입니다.
• 독립 리뷰 제공자 중 Gemini/OpenCode는 인증·서버 오류로 실패했고, Codex 읽기 전용 리뷰는 과도한 탐색 출력으로 최종 verdict 수집에 실패했습니다. 이를 clean 판정으로 간주하지 않고, 범위를 좁힌 리뷰와 직접 반례 테스트로 계속 검증합니다.
• GPU1은 사용하지 않습니다. CPU 검증만 수행합니다.

다음 게이트: SQLite 트랜잭션/embedding-space migration/strict project recall/close race 반례 검증 → 전체 typecheck/test → 소스 커밋 고정 → 해당 커밋 기준 benchmark 영수증 재생성.

[luke-n-alpha]

[적대 검증 결과]

현재 digest sha256:6948eb6004578d73d38b3722f74ba4e5f86bcab4e824ff91e60a0e357db27fed에서 실제 결함 1건을 발견·수정했습니다.

• 결함: SQLite latest recall이 후보 생성 전에 lifecycle status를 제한하지 않아 superseded/archived 사실이 candidate window를 소진하고 현재 active 사실을 누락시킬 수 있었습니다. 빈 질의 latest 경로에서도 비활성 사실 노출 가능성이 있었습니다.
• 수정: FTS/strict-vector 후보 SQL과 최종 materialization에 active-only gate를 추가했습니다. history/deep/bi-temporal 요청은 기존대로 과거 상태를 허용합니다.
• 반례: 동일 문구의 superseded 사실 60개 뒤에 active 사실 1개를 넣어도 top-1은 active 사실이며, 빈 latest 조회는 active만 반환하고 history 조회는 superseded를 포함함을 고정했습니다.
• 검증: pnpm typecheck 통과, pnpm test 28 files / 414 tests 통과, SQLite smoke 15 tests 통과, git diff --check 통과.
• 기록: reports/quality/issue-39-adversarial-review-2026-08-13.md 갱신.

아직 release/push clean 판정은 아닙니다. 현재 남은 게이트는 799-line LocalAdapter WARN에 대한 독립 판단과 clean source commit 기준 benchmark 영수증 재생성입니다. GPU1은 사용하지 않았습니다.

[luke-n-alpha]

[naia-memory] 진행 업데이트

• 적대 검토에서 SQLite mode: history가 전체 인덱스가 아니라 hot 인덱스를 선택해 strength <= 0.6 과거 사실을 누락하는 결함을 재현했습니다.
• history는 full FTS/vector 인덱스를 사용하도록 수정했고, strength 0.5 superseded fact 회귀 테스트를 추가했습니다.
• 검증: pnpm typecheck 통과, 기본 28 files / 414 tests 통과, SQLITE_WIP=1 SQLite smoke 15 tests 통과.
• 최신 complexity digest: sha256:5f8f88f897329307d77e093d53c6f95f35cb6cac1f30321486d1917407516036; 결과는 REVIEW_REQUIRED이며 유일한 경고는 local.ts 799-line named decomposition review입니다.
• GPU1은 사용하지 않았습니다. 외부 리뷰 수렴과 벤치 증거 재생성 전이므로 아직 성능/릴리스 완료 주장은 하지 않습니다.

[luke-n-alpha]

[naia memory] 적대 리뷰 후 실제 결함 2건을 추가 수정했습니다. SQLite latest hot index에 active fact만 넣어 superseded vector가 후보창을 오염하지 않게 했고, 고정 50-ID RRF gate를 topK 연동으로 바꿨습니다. 신규 회귀: superseded 60 + active 60 조건에서 topK=60 전부 active 반환. 검증: typecheck PASS, 전체 28 files/414 tests PASS, SQLite 16 tests PASS, diff-check PASS. 새 review digest: sha256:1c25ed9e76c07a518e1d41bb2cd54070619726445ae5cb63052b6fdc084bcc1c. history 링크 승격과 BM25 0점 제거는 기존 안전성 반례(forbidden exposure 악화) 때문에 기각 유지. 남은 명시적 한계는 strict-project vector exact search의 최근 1,000행 ceiling과 LocalAdapter 799-line 구조 경고입니다.

[luke-n-alpha]

[naia memory] strict-project vector 검색의 최근 1,000행 ceiling도 제거했습니다. strict scope는 전체 project/lifecycle partition을 exact distance search하고, unscoped path만 ANN을 유지합니다. 1,002개 동일 프로젝트 벡터에서 가장 오래된 target이 top-1인 회귀 추가. SQLite 17 tests PASS, 전체 414 tests PASS, typecheck/diff-check PASS. 새 digest: sha256:c240889f53ac9d3cc09e5e4bc8e11adac146c724f29820d36676fbfbf485542e. 남은 gate는 LocalAdapter 799-line 구조 경고이며 다음 분해 대상으로 진행합니다.