F· AI engineeringminnessystem· ca 90 min· volatil — kontrolleras ofta· verifierad 2026-09-20
Motsägelser och uppdatering av fakta
Kunna upptäcka och hantera motstridiga minnen med tidsstämplar och källor.
Förkunskaper
Intuition
Minnet innehåller «föredrar kodexempel» från mars. I oktober säger användaren «jag vill hellre ha formler först». Nu finns två motstridiga fakta.
Upptäckt: vid konsolidering jämförs nya fakta mot befintliga inom samma typ och ämne. En NLI-modell eller en LLM avgör om de är motsägelsefulla.
Lösning, i prioritetsordning:
- Explicit över härlett. Något användaren uttryckligen sagt vinner över något systemet gissat ur beteende.
- Nyare över äldre — men bara när båda är lika explicita.
- Mer stöd över mindre. Tre episoder slår en.
- Oavgjort → fråga användaren, eller behåll båda med låg konfidens och undvik att agera på dem.
Regel fyra är viktigast: att gissa fel i en motsägelse är värre än att fråga.
Kod
from datetime import datetime
VIKT_KALLA = {"explicit": 3.0, "bekraftad": 2.0, "harledd": 1.0}
def losa_konflikt(a: dict, b: dict, nu: datetime) -> dict:
"""Returnerar {'behall': faktum, 'ta_bort': faktum} eller {'fraga': (a, b)}."""
def poang(f):
alder_d = (nu - datetime.fromisoformat(f["ts"])).days
farskhet = 0.5 ** (alder_d / 180)
return VIKT_KALLA[f["kalla"]] * farskhet * (1 + 0.2 * len(f["kallor"]))
pa, pb = poang(a), poang(b)
if abs(pa - pb) < 0.25 * max(pa, pb): # för jämnt → gissa inte
return {"fraga": (a, b)}
vinnare, forlorare = (a, b) if pa > pb else (b, a)
return {"behall": vinnare, "ta_bort": forlorare, "motivering": f"{poang(vinnare):.2f} > {poang(forlorare):.2f}"}
# Logga alltid vilket faktum som ersatte vilket — annars går det inte att felsöka
# när agenten plötsligt beter sig annorlunda mot en användare.
Fällan att undvika: tyst radering. När ett faktum ersätts ska det gå att se i loggen — och helst för användaren i inställningarna. Ett minne som ändrar sig osynligt är omöjligt att lita på.
Behärskning innebär
- Upptäcker motstridiga fakta
- Löser konflikter med tid, stöd och källa
- Vet när användaren ska tillfrågas
Logga in för att göra övningarna och bygga upp din behärskning.
Källor
- arXiv — MemGPT: Towards LLMs as Operating Systems — arXiv (öppen åtkomst; licens per artikel)
- arXiv — Editing Factual Knowledge in Language Models — arXiv (öppen åtkomst; licens per artikel)