Algoritmo hierárquico de resumo de vídeo baseado em redes neurais recorrentes independentes

REN Xiwei ,  

LIU Yan ,  

XIAO Man ,  

JIA Shiduan ,  

WANG Rui ,  

HE Lifeng ,  

摘要

Devido ao fato de os algoritmos atuais de resumo de vídeo ignorarem informações de cenas, o que prejudica a integridade das atividades, e das dificuldades das redes RNN e LSTM tradicionais em capturar dependências de longo alcance ao processar vídeos longos, este artigo propõe um algoritmo hierárquico de resumo de vídeo baseado em IndRNN que utiliza a estrutura hierárquica de sequência de vídeo (HIRVS). O HIRVS pode ser dividido em 3 partes: (1) uso da rede IndRNN para gerar características visuais de cada cena, onde o estado oculto final é uma agregação temporal ponderada das características de todos os quadros dentro da cena; (2) uso de uma sequência de características no nível da cena por IndRNN bidirecional para modelar relações temporais e capturar dependências de longo alcance entre as cenas; (3) introdução de um codificador de vídeo com autoatenção para extrair dependências globais no vídeo. Finalmente, prediz-se a pontuação de importância das cenas do vídeo para selecionar cenas-chave na geração do resumo do vídeo. Os experimentos foram realizados em dois conjuntos de dados públicos SumMe e TvSum, obtendo uma pontuação F de 51,0% no conjunto SumMe, com uma melhoria de 1,2% em relação ao VOGNet; no conjunto TVSum, a pontuação F foi de 61,3%, uma melhoria de 0,3% em relação ao método atual de melhor desempenho VJMHT. Os resultados experimentais validam a eficácia do HIRVS na tarefa de resumo de vídeo, melhorando a eficiência da geração de resumos.

关键词

Resumo de vídeo;Rede neural recorrente independente;Estrutura hierárquica;Rede de autoatenção

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website