Método de reidentificação multimodal de pedestres reforçado pela fusão de múltiplos mecanismos

TU Mingjun ,  

LIN Guojun ,  

FENG Kai ,  

MA Run ,  

摘要

Em resposta aos problemas de ruído na atenção, falta de modelagem espacial refinada e redundância computacional existentes nos métodos atuais de reidentificação multimodal de pedestres baseados em ViT, este artigo propõe um método de reidentificação multimodal de pedestres reforçado pela fusão de múltiplos mecanismos. O método utiliza ViT como modelo base e adota uma estratégia de fusão de características multidimensionais para aprimorar a capacidade expressiva. Primeiro, é introduzido o módulo de atenção diferencial (DAM), que calcula a diferença entre dois conjuntos de mapas de atenção paralelos, suprimindo eficazmente o ruído comum de alta frequência no fundo e melhorando significativamente a atenção do modelo nas regiões principais do pedestre; em segundo lugar, é projetado o módulo hierárquico progressivo de percepção de relações (RAM), que modela adaptativamente as relações espaciais do local ao global, superando efetivamente as limitações do ViT na perda de informações estruturais espaciais ao lidar com oclusão e variações de postura; finalmente, é integrado o mecanismo de atenção automática de janelas cruzadas (CSWA), que divide o mapa de características em faixas horizontais e verticais para realizar cálculos paralelos de autoatenção, reduzindo a complexidade computacional para um nível linear ao mesmo tempo em que captura de forma eficiente dependências globais de longo alcance. Os resultados experimentais mostram que no conjunto de dados MSMT17, mAP e Rank-1 atingem 68,1% e 86,3%, respectivamente; no conjunto Occluded-Duke, mAP e Rank-1 aumentam 5,5% e 6,3%, respectivamente; nos conjuntos Market-1501 e DukeMTMC-reID, também foram obtidos desempenhos superiores ao ViT tradicional. Os resultados gerais indicam que o método resolve efetivamente os problemas de dispersão de características e perda de informações espaciais nos modelos ViT tradicionais para tarefas de reidentificação de pedestres, aumentando significativamente a robustez e a capacidade de generalização do modelo em ambientes com oclusões e fundos complexos.

关键词

reidentificação de pedestres;multimodal;ViT;DAM;CSWA;RAM

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website