arXiv 2610.20556
インタラクティブ動画生成におけるSpeculative Sampling
Speculative Sampling in Interactive Video Generation
AI推薦42
著者: Yubo Huang, Yuxuan Zhang, Jiaming Liu, Sirui Zhao, Enhong Chen
概要
著者らは、ノイズlatentをパディングとして追加することで双方向モデリングウィンドウを拡張し、条件が変わらない間は予測結果をキャッシュして再利用するSpeculative Samplingを提案しています。予測は段階的に配信され、まだ確定していない未来の部分は差し替え可能なままです。
はじめに
インタラクティブ動画生成では応答遅延を抑えるために小さな双方向チャンクが一般的に使われますが、小さなチャンクは動画品質を制限することがあります。
結果
予備実験では、チャンクを大きくすると動画品質が向上し、GPUの並列性をより良く活用できることが示され、サンプリング時間の増加はわずかでした。遅延分析によると、この手法はチャンク境界によって生じる待ち時間の下限を取り除きます。
結論
ウィンドウサイズが視覚品質とサンプリング時間を調整するためのトレードオフ変数となり、複雑なストリーミング向け後学習なしで大規模な双方向モデルをインタラクティブなストリーミングシステムで提供できる道が開けます。