Skip to content
AI-Daily-Builder

タグ · #machine-learning

MuonGSはグラム・シュミット射影を用いてLLM事前学習の効率を向上

読む理由 厳格なノルム制御による探索の限界を回避するMuonGSへ切り替えることで、開発者はより迅速な収束とより良い最終損失を達成できます。

新しいMuonGSオプティマイザはグラム・シュミット射影を用いて重みノルム制約を緩和し、大規模言語モデルにおける検証パープレキシティと学習速度を向上させます。

タスクモデル誘導はコンピュータトレースからインターリーブされたワークフローを復元する

読む理由 デスクトップエージェントを構築するAIエンジニアは、TMIを使用して生データから現実のワークフローを学習し、より堅牢で監査可能なタスク実行を可能にできます。

新手法TMIは、受動的なコンピュータ使用トレースから構造化されたタスクモデルを抽出し、既存のベースラインを上回るエージェント精度を実現します。

チップ