記憶當量:作為 LLM 跨輪次計算描述單位的假說

Counts differ because each database indexes a different set of publications. We treat OpenAlex as the canonical count; Google Scholar is not shown (no API, and crawling it violates its ToS).

本文提出「記憶當量」(Memory Equivalent)作為描述大型語言模型(LLM)跨輪次計算的一個候選研究單位。 現有 AI memory 研究主要關注過去資訊如何被保存、再次提供或用於後續計算,例如對話上下文、摘要、外部記憶、檢索結果、推理軌跡、反思與經驗重用等。本文所提出的問題有所不同:上一輪計算本身所形成的計算排列、組合與關係結構,是否能夠以某種形式對下一輪計算產生可描述、可保留、可比較並可修正的等效作用? 本文將「記憶當量」暫時定義為:上一輪計算結構中,對當下或下一輪計算仍具有作用的部分。其關注對象不是單純的過去資訊、最終結果或原始輸入,而是資訊單位在計算過程中的排列、組合、轉換與關係結構。 本文提出五項核心主張:(1)模型停止訓練後,其參數化計算規則在一般推理期間保持固定;(2)多輪輸入主要是在既有計算方式下增加新的材料,而不等同於直接修改上一輪的計算排列;(3)AI 能力可能與長期訓練形成的可用理解、排列、組合與計算關係結構有關;(4)若要真正延續上一輪計算,值得研究的對象可能不只是上一輪的結果,而是產生結果的計算排列;(5)當上一輪計算出現偏差時,除了增加材料或修正結果,也值得研究是否能將偏差作為修正上一輪計算排列的依據。 本文不主張「記憶當量」已經是一個完成的工程方案,也不主張它與既有的 reasoning trace、reflection、procedural memory、experience reuse 或 continual learning 研究完全無關。本文提出的是一個候選分析單位,用來更明確地描述「上一輪計算方式對下一輪計算所具有的等效作用」。 後續研究方向包括記憶當量的數學表示、計算結構表示、跨輪次比較、偏差定位與修正,以及實驗驗證。