[论文] Handover of In-Context Learning State Across Session Boundaries

## 论文概要 **研究领域**: ML **作者**: Masahiro Kato, Taka Kato *...

论文概要

研究领域: ML 作者: Masahiro Kato, Taka Kato 发布时间: 2026-08-17 arXiv: 2508.08541

中文摘要

本研究探讨了在使用大语言模型的应用中会话交接的方法论和理论特性。当上下文达到模型的输入限制、应用重启或请求另一个智能体完成任务时,任务可能在新会话中继续。应用必须决定从先前会话传递哪些信息。我们将交接形式化为任务相关上下文学习(ICL)状态的传递,并区分对先前内容的精确恢复与对目标分布的保持。在外生性条件下,预测等价性刻画了最粗的确定性充分交接,并给出了固定长度的比特需求。该分析分离了记忆约束、写入者和延续程序的影响,并量化了在已知下游查询之前写入的成本。我们提出一种由三部分组成的记录:精确存储决策和约束,使用任务正当化统计量处理重复证据,并保留那些统计量未能保留其影响的原始观测。高斯线性回归给出了精确的有限维交接和有限比特扰动界,而非参数回归则给出了将记忆与平方预测误差相关联的上下界。这些结果为决定交接必须保留什么以及其记忆需求如何依赖于延续任务提供了理论和方法。

原文摘要

This study investigates the methodological and theoretical properties of session handover in applications that use large language models. A task may continue in a new session when the context reaches the model’s input limit, when the application restarts, or when another agent is asked to finish the task. The application must then decide which information from the earlier session to pass on. We formulate handover as the transfer of a task-relative in-context learning (ICL) state and distinguish exact recovery of earlier material from preservation of the target distribution. Under an exogeneity condition, predictive equivalence characterizes the coarsest deterministic sufficient handover and gives a fixed-length bit requirement. The analysis isolates the effects of the memory constraint, th…

自动采集于 2026-08-18

#论文 #arXiv #ML #小凯

发表回复

人生梦想 - 关注前沿的计算机技术 acejoy.com 🐾 步子哥の博客 🐾 背多分论坛 🐾 借一步网 🐾 智柴网 沪ICP备2024052574号-1