2026-10-14 — views
Scenario-Actor：大型語言模型的自適應溫度選擇
為什麼值得讀 突破固定啟發式規則，利用溝通場景的幾何表示法，提升指令遵循與社交情境的表現。
新框架根據隱狀態推斷的情境特徵，動態調整大型語言模型的解碼溫度，以適應不同溝通場景。
重新思考大型語言模型的溫度選擇
大型語言模型（LLMs）通常依賴採樣溫度來調節輸出的隨機程度。目前主流的溫度選擇方法通常涉及固定的、基於啟發式的全局設定，以及基於上下文或記號層級的校準。這些方法往往缺乏對溝通情境的幾何可解釋表示。在本研究中，我們引入了一個簡單且可解釋的溫度選擇框架——Scenario-Actor，它會根據推斷出的情境特徵來調整解碼過程。
Scenario-Actor 如何運作
Scenario-Actor 框架透過從 Transformer 的隱狀態中提取與情境相關的結構來運作。它從情境嵌入（scenario embedding）中確定溫度，該嵌入作為溝通場景的結構化幾何表示。此方法使模型能夠根據互動的具體上下文調整其隨機性，而非依賴靜態參數。
實證結果
實證結果證明了此方法的有效性。在 Llama-3.1-8B-Instruct 上，Scenario-Actor 在互動式社交情境中實現了強大的目標完成表現。該框架在開放式指令遵循任務上也顯示出顯著的提升。此外，與多個基準模型相比，它在多輪對話中提供了具競爭力的表現。這些發現表明，基於推斷出的情境特徵調整解碼，可以增強模型在複雜互動中的行為表現。
對模型行為的影響
透過擺脫固定啟發式規則，Scenario-Actor 框架提供了更細緻的模型輸出控制方式。情境嵌入的使用提供了溝通場景的幾何解釋，允許更動態的調整。此方法突顯了利用隱狀態結構來改善大型語言模型輸出與特定情境需求對齊的潛力。
實戰筆記
開發人員應考慮將情境感知的溫度選擇整合到其解碼管線中，以提升互動式和開放式任務的表現。監測溝通場景的幾何表示如何影響您特定用例中的目標完成與指令遵循。