Hugging Face Daily Papers の最新AIニュース

視覚言語モデルの計算負荷を軽減するため、線形注意機構を持つ新しい視覚トークン圧縮手法「V-CoLA」を提案。従来のソフトマックス注意機構向けの手法が抱える汎化性能の課題を分析し、ハイブリッドアーキテクチャに適した効率的な圧縮を実現する。

多様な環境や未知の指示に対応可能な汎用サービスロボット向けの新しいナビゲーションシステムを提案。マルチモーダル大規模言語モデルを活用して人間の指示を解釈し、あらゆるシーンで柔軟な移動を実現する。

大規模言語モデルの推論を効率化するトークンレベルのルーティングにおいて、従来のシステムが直面する課題を克服するための新しい効率的な配信システムについての研究。コストと品質の最適化を目指す。

未知の環境において、LLMエージェントが経験から学習し適応する能力を正確に評価するための新ベンチマーク Learn2Play Benchが提案されました。事前知識による推論とインタラクションを通じた学習の区別を困難にしていた従来の課題を克服し、エージェントの動的な環境適応力を測ります。

エージェントが探索と相互作用を通じて学習するためのリアルタイム対話型仮想世界を構築するフレームワークAgentGartenが発表されました。シミュレータとゲームエンジンを共有ニューラルレンダラーと結合しています。

動画生成モデルの高速化に有効な高圧縮動画オートエンコーダーの課題を解決する手法GRACEを提案。圧縮率向上による画質低下やモデルの収束遅延を抑えつつ、効率的な動画生成を実現する。

実時間ロボット制御において視覚的コンテキストを効率的に処理するモデルシステムフレームワークLong-WAMを提案。自己回帰型事前学習を用いた動画基盤モデルにより、長時間の履歴を活かした高度な動作予測とタスク遂行を実現します。

ソース動画内のコンテンツと一貫した相互作用を持つ、新しい動画編集フレームワークALIVEを提案。最初のフレームと追加するオブジェクト名を指定するだけで、オブジェクトが自然に参加する動画編集を実現します。

大規模言語モデルを用いたソフトウェア工学の自動化において、長期間のワークフローで発生するコンテキストの爆発やセマンティックドリフトを抑制する新しいハーネス工学のアプローチを提案します。

教師と生徒のトークナイザーが異なるオンポリシー蒸留において、アライメント範囲の拡大が学習に与える影響を検証。数学的推論やコード生成の実験を通じ、厳格な1対1のマッチングですでに大部分のトークンをカバーできることを示した。

大規模言語モデルの強化学習における低精度化の課題を解決するため、ロールアウト誘導型量子化学習手法であるTRACEを提案。学習とロールアウトのパス間における量子化の不整合を直接削減することで効率的なFP4強化学習を実現する。

個人のアカウントやデバイスを跨いで長期的に記憶し自律的に行動する、オープンソースのパーソナルAIエージェント「nanoMuse」の概要。ベンダーのクラウドに依存しない新しいソフトウェアの形を提案しています。

大規模言語モデルエージェントの非同期強化学習において、古いチェックポイントや推移確率のずれによる課題を解決する新しい枠組みとしてKL正則化方策最適化を提案し、従来のクリッピングやグループサンプリングに代わる効率的な学習を実現する。

ゲーム開発を自動化する体験重視のエージェントシステムであるリカシブゲームクリエイターを提案。デザイナーやビルダーなどの四つのコンポーネントを連携させ、プロトタイプから楽しめるゲームへと発展させます。

汎用大規模言語モデルを特定の専門領域に適応させるため、多段階の最適化を必要とする従来の教師あり微調整と強化学習のパイプラインではなく、強化学習のみを用いた新しい領域適応手法を提案し、その課題とアプローチについて解説している。

LLMエージェントの訓練と評価に向けた現実的な環境シミュレーション手法として、実行可能な環境を再構築する代わりに、世界モデルエージェントが環境として機能し忠実かつ状態維持型のシミュレーションをサポートする新しいフレームワークを提案します。

大規模言語モデルエージェントの長期的タスク実行能力を向上させるため、検証済み経験の自己蒸留を用いたオンラインテスト時訓練フレームワークASCENTを提案。関連タスクのストリームからモデルの重みを直接適応させる手法を研究している。

音声と映像を同期して生成できる基盤モデルKandinsky 6.0 Videoが発表されました。3Bと29Bのパラメータを持つ2つのモデルから構成され、リップシンクを含む高品質な5秒間の動画と音声をテキストや画像から生成可能です。

長期記憶を持つLLMエージェントがユーザーの過去の誤った信念に過剰適応してしまう追従性という課題に対し、反実仮想的な適応を通じて軽減する新しい手法Memadapterを提案する。

視覚言語行動モデルの推論時において、複数生成されたアクション候補から最適なものを選択する新しい検証器学習手法DiVeRを提案。ロボットデータの収集コストを抑えつつタスク成功率を効率的に向上させる。

急速に進化する科学エージェントを評価するため、ベンチマークを自動生成して反復適応させる手法を提案する研究。専門知識と労力を要する科学分野の評価課題を解決し、エージェントの能力向上に追従することを目指す。

拡散言語モデルの品質課題を解決するため、予測の難易度に応じて計算量を動的に調整する適応型拡散言語モデルを提案。従来の手法における計算のミスマッチを解消し、効率的な並列生成を実現します。

推論モデルの自己進化プロセスにおける性能低下の原因を分析。生成された問題が無効化したり同一パターンの繰り返しになる問題を特定し、持続的な自己進化を実現するための改善策を提案しています。

動画生成やワールドモデルにおける物理情報の符号化を評価するため、流体力学や光学など多様なシミュレーションに基づく八千件の制御ケースを収録したワールド・エンベディング・ベンチマークが提案された。

ベースモデルを用いて多様な環境下での成功した解決策を発見し、一般的な環境の学習軌跡として再構築する新しいフレームワークを提案。プランナーと批評家により効果的なトレーニングデータを抽出・生成する。

自己回帰型動画拡散モデルによる長尺動画生成において、色や質感の崩壊や動きの減衰を防ぐためのテスト時最適化手法を提案。既存のKVコンディショニング手法の限界を分析し、より安定した長尺生成を実現する。

動画生成の品質と意味的整合性を向上させるため、統合された同時分布を通じて実際の動画分布を近似する新しいフレームワークDuoMatchingを提案する。

連続的テキスト埋め込みを活用する拡散言語モデルにおいて、より強力な埋め込みモデルへスケーリングすることが生成性能を大幅に向上させることが判明しました。最適な潜在空間の構築アプローチについて検証しています。

GUIエージェントの学習に必要な多様なインタラクション軌跡を拡張するため、画像生成モデルを視覚的世界モデルとして活用する手法を提案。複雑な環境構築を不要にし、ソフトウェアの状態変化やマルチステップワークフローを効率的に学習可能にします。

双方向推論や大域的制約を必要とするタスクにおいて、自己回帰生成に代わる手法として注目される離散拡散言語モデルの限界を克服するため、トークン間の統計的依存関係を維持しながら効率的な並列デコーディングを実現する新しい連続拡散言語モデルを提案する研究。