Модель видеократкого содержания на основе многомасштабного временного моделирования и динамического пространственного слияния признаков

LI Zehui ,  

ZHANG Lin ,  

SHAN Xianying ,  

SHEN Ganjie ,  

摘要

Для решения проблемы недостаточного многомасштабного временного моделирования и локального моделирования признаков в задаче видеократкого содержания, в данной работе предлагается модель видеократкого содержания, сочетающая многомасштабное временное смещение и деформируемый локальный механизм внимания. Во-первых, разработан многомасштабный адаптивный двунаправленный модуль временного смещения (MAB-TSM), который с помощью обучаемого динамического предсказания шага смещения и многомасштабной дилатационной свёртки реализует адаптивное моделирование долгосрочной и краткосрочной временной зависимости видео; во-вторых, разработан деформируемый модуль локального внимания (DALAM), сочетающий динамическую стратегию сегментации видео и механизм адаптивной корректировки позиций выборки, что уменьшает вычислительную сложность и одновременно усиливает детализированное представление критически важных локальных областей; кроме того, улучшена сеть BiFPN для кросс-маcштабного слияния с введением модуля усиления внимания сквозь масштабы на базе BiFPN, что повышает комплементарное выражение многоуровневых признаков. Предложенная модель была многократно протестирована на наборах данных SumMe и TVSum, достигнув F1-оценок 56.8% и 62.6% соответственно в стандартизированном режиме, превосходя существующие методы; коэффициенты корреляции рангов Кендалла и Спирмена составили 0.153 и 0.200 соответственно, что отражает хорошую согласованность. Результаты экспериментов подтверждают точность и эффективность модели в задаче видеократкого содержания.

关键词

видеократкое содержание;многомасштабное временное моделирование;модуль временного смещения;деформируемое внимание;локальный механизм внимания

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website