【新智元导读】自适应语言模型框架SEAL，让大模型通过生成自己的微调数据和更新指令来适应新任务。SEAL在少样本学习和知识整合任务上表现优异，显著提升了模型的适应性和性能，为大模型的自主学习和优化提供了新的思路。 麻省理工学院的研究人员提出了一个全新的自适应语言模型（Self-Adapting LLMs，简称SEAL）的框架，可以让大模型通过生成自己的微调数据和更新指令来实现自适应。 相比与直接在原始文本上微调不同，经过强化学习训练后，使用SEAL生成的合成数据进行微调，将SQuAD无上下文版本的问题回答准确率从33.5%提高到47.0%，甚至超过了GPT-4.1生成的合成数据。 研究人员还在ARC-AGI基准测试的简化子集上对SEAL进行了少样本学习评估，模型需要利用一组工具自主选择合成数据增强和优化超参数（例如学习率、训练周期、对特定token类型的损失计算）。 假设语言模型的参数为θ，C是与任务相关的上下文信息，τ是用于评估模型适应性的下游任务，SEAL会针对每个任务实例（C, τ）进行操作。 研究人员使用强化学习来优化自编辑生成的过程：模型生成SE作为动作，根据生成SE后模型在τ上的表现获得奖励，并根据奖励更新策略，以最大化预期奖励。 ReSTEM的过程为：首先从当前模型策略中采样一些候选输出（即自编辑），然后只对那些获得正奖励的样本进行监督微调，以此来强化模型的策略。 由于大多数ARC任务对于未经过ARC预训练的模型来说难度较大，研究人员从ARC训练集中筛选出11个任务，从评估集中筛选出8个任务，确保这些任务在最优TTT（测试时训练，test-time training）配置下可以被基础的Llama-3.2-1B-Instruct模型解决。 每个自编辑分别应用于生成15个更新后的模型，然后在对应的测试样本上进行评估，只保留那些「经过适应后能够为测试输入生成正确输出」的模型。 评估指标为成功率：为每个保留的评估任务生成5个自编辑并评估模型，然后统计能够产生正确输出的自编辑的百分比，可以反映出所学自编辑生成策略的质量。 与基线方法相比，SEAL显著提高了适应成功率（72.5%），而未经强化学习训练的基础模型的自编辑成功率仅为20%，不进行任何适应的成功率为0% 对比基线包括基础模型（直接在问答任务上评估，Base Model）、仅在段落上微调模型（Train on Passage）、在段落和自动生成的推论上训练模型（Train on Passage + Synthetic）、在段落和通过OpenAI API从GPT-4.1收集的模型生成推论上训练。 在持续预训练（CPT）设置下，模型从200个段落中整合信息，并在所有974个相关问题上进行评估。研究人员为每个段落采样5个自编辑生成内容，并将这些合成数据用于持续预训练。 虽然绝对性能低于单段落设置，但相对提升效果保持一致，这表明SEAL发现的编辑策略不仅适用于单个段落的合成数据生成，还能推广到更广泛的场景。 仅需两次迭代，SEAL就超过了使用GPT-4.1数据的效果，后续迭代的提升效果逐渐减弱，表明策略迅速收敛到一种能够「将段落提炼为易于学习的基本事实」的编辑风格。
