文章主要内容总结本文围绕大语言模型（LLMs）中的记忆（memorization）现象展开研究，核心探讨了三个问题：最优语言学习中是否能避免记忆、记忆带来的隐私威胁是否被夸大、不同记忆度量方法的差异及影响。主要内容包括：记忆度量方法的重新审视：分析了现有基于回忆的（recollection-based）和反事实的（counterfactual）记忆度量方法，并提出新的情境记忆（contextual memorization）度量。情境记忆通过“最优情境回忆”（即模型在不包含某字符串的数据集上的最佳回忆表现）作为阈值，区分基于情境学习的回忆与基于记忆的回忆，避免了基于回忆的度量中“高回忆即记忆”的误区，且比反事实记忆条件更严格。实验发现：在6个模型家族的18个LLM和不同熵的形式语言上实验，发现：不同记忆度量对字符串记忆顺序的判断存在分歧；最优语言学习无法避免对训练字符串的部分记忆；更好的学习（如增大训练数据）会减少情境和反事实记忆，但增加基于回忆的记忆；许多被基于回忆的度量标记为“记忆”的字符串，既无隐私威胁，也不满足情境或反事实记忆的标准。核心结论：完全无记忆的最优语言学习不可行，现有基于回忆的记忆度量可能夸大了LLMs的记忆风险，情境和反事实记忆更适合评估真实记忆现象。创新点