Modelo de resumo de vídeo baseado em modelagem temporal multiescala e fusão dinâmica de características espaciais

LI Zehui ,  

ZHANG Lin ,  

SHAN Xianying ,  

SHEN Ganjie ,  

摘要

Para resolver o problema de modelagem temporal em múltiplas escalas e modelagem de características locais insuficientes na tarefa de resumo de vídeo, este artigo propõe um modelo de resumo de vídeo que combina deslocamento temporal multiescala e mecanismo de atenção local deformável. Primeiro, foi projetado um módulo de deslocamento temporal bidirecional adaptativo multiescala (MAB-TSM), que através da previsão dinâmica de passo de deslocamento aprendível e convolução dilatada multiescala, realiza a modelagem adaptativa das dependências temporais de curto e longo prazo do vídeo; em seguida, projetou-se um módulo de atenção local deformável (DALAM), que combina uma estratégia dinâmica de segmentação de vídeo e um mecanismo adaptativo de ajuste de posição de amostragem, reduzindo a complexidade computacional ao mesmo tempo que aumenta a capacidade de expressão fina das características das regiões-chave locais; além disso, a rede BiFPN de fusão entre escalas foi aprimorada com a introdução de um módulo de reforço de atenção entre escalas baseado na BiFPN, melhorando a expressão complementar das características multiescala. O modelo proposto foi testado múltiplas vezes nos conjuntos de dados SumMe e TVSum, alcançando pontuações F1 de 56,8% e 62,6% respectivamente no modo padrão, superando os métodos existentes, e os coeficientes de correlação de posto de Kendall e Spearman atingiram 0,153 e 0,200 respectivamente, demonstrando boa consistência. Os resultados experimentais comprovam a precisão e efetividade do modelo na tarefa de resumo de vídeo.

关键词

resumo de vídeo;modelagem temporal multiescala;módulo de deslocamento temporal;atenção deformável;mecanismo de atenção local

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website