2026-10-14 — views
Scenario-Actor：大语言模型的自适应温度选择
为什么值得读 该框架利用交际场景的几何表示，突破了固定启发式的局限，从而提升指令遵循能力和社交场景表现。
新框架通过从隐藏状态推断情境特征，自适应调整大语言模型的解码温度，超越固定启发式方法。
重新思考大语言模型中的温度选择
大型语言模型（LLMs）通常依赖采样温度来调节输出的随机程度。主流的温度选择方法通常涉及固定的、基于启发式的全局设置，以及基于上下文或词元级别的校准。这些方法往往缺乏对交际场景的几何可解释表示。在本研究中，我们引入了一种简单且可解释的温度选择框架——Scenario-Actor，它根据推断出的情境特征来调整解码过程。
Scenario-Actor 的工作原理
Scenario-Actor 框架通过从 Transformer 隐藏状态中提取与场景相关的结构来运行。它从场景嵌入中确定温度，该嵌入作为交际场景的结构化几何表示。这种方法使模型能够根据交互的具体上下文调整其随机性，而不是依赖静态参数。
实证结果
实证结果证明了该方法的有效性。在 Llama-3.1-8B-Instruct 上，Scenario-Actor 在交互式社交场景中实现了强大的目标完成性能。该框架在开放式指令遵循任务中也显示出显著的提升。此外，与多个基线相比，它在多轮对话中提供了具有竞争力的性能。这些发现表明，基于推断出的情境特征调整解码可以增强模型在复杂交互中的行为表现。
对模型行为的影响
通过摆脱固定启发式方法，Scenario-Actor 框架提供了一种更细致的方式来控制模型输出。使用场景嵌入为交际场景提供了几何解释，允许进行更动态的调整。这种方法突显了利用隐藏状态结构来提高 LLM 输出与特定情境要求对齐的潜力。
实务笔记
开发人员应考虑将场景感知的温度选择集成到其解码管道中，以改善交互式任务和开放式任务的性能。监测交际场景的几何表示如何影响您特定用例中的目标完成和指令遵循。