マルチスケール時系列モデリングと動的空間特徴融合に基づく動画要約モデル

LI Zehui ,  

ZHANG Lin ,  

SHAN Xianying ,  

SHEN Ganjie ,  

摘要

動画要約タスクにおけるマルチスケール時系列モデリングおよび局所特徴モデリングの不足問題に対処するため、本論文ではマルチスケール時間シフトと変形可能な局所注意メカニズムを組み合わせた動画要約モデルを提案する。まず、学習可能な動的オフセットステップ予測とマルチスケール膨張畳み込みを通じて動画の長短期時系列依存性の適応的モデリングを実現するマルチスケール適応型双方向時間シフトモジュール(MAB-TSM)を設計した。次に、動的動画セグメンテーション戦略と適応サンプリング位置調整機構を組み合わせ、計算コストを低減しつつ局所重要領域の細粒度特徴表現能力を強化する変形可能局所注意モジュール(DALAM)を設計した。さらに、BiFPNを基礎としたクロススケール融合BiFPNネットワークを改良し、クロススケール注意強化モジュールを導入することでマルチスケール特徴の相補的表現を向上させた。提案モデルはSumMeおよびTVSumデータセットで複数回の実験を行い、規範モードでのF1スコアはそれぞれ56.8%および62.6%に達し、既存手法を上回り、Kendall順位相関係数およびSpearman順位相関係数はそれぞれ0.153および0.200に達し、高い一貫性を示した。実験結果は本モデルが動画要約タスクにおける精度と有効性を実証していることを示している。

关键词

動画要約;マルチスケール時系列モデリング;時間シフトモジュール;変形可能注意;局所注意メカニズム

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website