Reconhecimento de ações baseado em mecanismo de atenção à correlação temporal

LIU Kuan ,  

WANG Wei ,  

SHEN Hong-ting ,  

HOU Hong-tao ,  

GUO Min-zhen ,  

LUO Zi-jiang ,  

摘要

Na tarefa de reconhecimento de ações, devido à diferença na velocidade de mudança dos estados dos agentes e das ações, bem como à falta de estudo sobre a correlação entre ações, que resulta em baixa capacidade de discriminação e erros, é proposto um modelo de mecanismo de atenção baseado na correlação temporal, fundamentado na arquitetura SlowFast. Primeiro, abandona-se o fluxo óptico e utiliza-se diretamente os dados de vídeo como entrada da rede, permitindo o treinamento de ponta a ponta do modelo; segundo, define-se um mecanismo de atenção à correlação temporal composto por atenção à correlação e atenção temporal, onde o mecanismo de atenção à correlação serve para extrair informações de correlação entre ações; em seguida, as informações são introduzidas no mecanismo de atenção temporal para suprimir características inúteis; por fim, para o problema da perda de correlação entre características devido ao grande passo do kernel convolucional durante a fusão de caminhos no SlowFast, propõe-se uma operação convolucional contínua mais eficaz como substituta. Experimentos realizados nos conjuntos de dados UCF101 e HMDB51 mostram que o método proposto apresenta vantagens em precisão e robustez em comparação aos métodos existentes.

关键词

reconhecimento de ações;SlowFast;mecanismo de atenção à correlação temporal;treinamento de ponta a ponta;fusão de caminhos

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website