Modelo de resumen de video basado en modelación temporal multiescala y fusión dinámica de características espaciales

LI Zehui ,  

ZHANG Lin ,  

SHAN Xianying ,  

SHEN Ganjie ,  

摘要

Para abordar el problema de la insuficiente modelación temporal multiescala y la modelación de características locales en la tarea de resumen de video, este artículo propone un modelo de resumen de video que combina desplazamiento temporal multiescala y un mecanismo de atención local deformable. Primero, se diseñó un módulo de desplazamiento temporal bidireccional adaptativo multiescala (MAB-TSM), que mediante la predicción dinámica de longitud de desplazamiento aprendible y convoluciones dilatadas multiescala, logra modelar de forma adaptativa las dependencias temporales a corto y largo plazo del video; segundo, se diseñó un módulo de atención local deformable (DALAM), que combina una estrategia dinámica de segmentación de video y un mecanismo de ajuste adaptativo de las posiciones de muestreo, lo que reduce la complejidad computacional y al mismo tiempo mejora la expresión precisa de las características en las regiones clave locales; además, se mejoró la red BiFPN de fusión a través de escalas, introduciendo un módulo de mejora de atención entre escalas basado en BiFPN, aumentando la expresión complementaria de características multiescala. El modelo propuesto se sometió a múltiples experimentos en los conjuntos de datos SumMe y TVSum, logrando puntuaciones F1 de 56.8% y 62.6% respectivamente en modo estándar, superando a los métodos existentes, y los coeficientes de correlación de rango de Kendall y Spearman alcanzaron 0.153 y 0.200 respectivamente, mostrando una buena consistencia. Los resultados experimentales demuestran la precisión y eficacia del modelo en la tarea de resumen de video.

关键词

resumen de video;modelación temporal multiescala;módulo de desplazamiento temporal;atención deformable;mecanismo de atención local

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website