Método de reconstrucción 3D de la mano basado en recuperación adaptativa de oclusiones y percepción bidireccional topológica-postural

LIU Jia ,  

HUANG Nanxuan ,  

CHEN Dapeng ,  

WEI Lina ,  

摘要

Los métodos actuales de reconstrucción de mallas 3D de la mano enfrentan varios desafíos, especialmente en el manejo de oclusiones y posturas de mano de alta flexibilidad, lo que genera pérdida de información geométrica de la mano y errores en la topología. Para mantener la precisión y eficiencia de la reconstrucción 3D de la mano bajo condiciones de oclusión, este artículo propone un marco de red de dos etapas que reconstruye en tiempo real y de manera eficiente la malla 3D de la mano a partir de una imagen RGB monocular. En la primera etapa, se diseñó un módulo adaptativo de recuperación de oclusiones introduciendo una máscara de peso de atención aprendible y una pérdida de coherencia regional en el mecanismo de atención. Este módulo restaura adaptativamente la información en las áreas ocluidas, mejorando significativamente la capacidad expresiva de las características en condiciones de oclusión. En la segunda etapa, combinando modelado topológico estático y percepción dinámica de postura, junto con convoluciones de gráficos bidireccionales y una atención novedosa basada en la percepción de la rotación de las articulaciones, se propuso un módulo de percepción bidireccional topológico-postural. Este módulo logra un refuerzo complementario de características estáticas y dinámicas, mejorando la captura de detalles de las características articulares. El método se comparó cualitativa y cuantitativamente con métodos avanzados en los conjuntos de datos FreiHAND e InterHand2.6M. Los resultados experimentales muestran que en el conjunto FreiHAND, el método redujo el PA-MPVPE a 6.1 mm con una velocidad de inferencia de 39 FPS; en InterHand2.6M, el método redujo el MPJPE a 8.07 mm y el MPVPE a 8.22 mm. Este método satisface los requisitos de resistencia a oclusiones, tiempo real, eficiencia y precisión postural en la reconstrucción 3D de la mano.

关键词

Reconstrucción de malla 3D de la mano;Mecanismo de atención;Red de convolución gráfica;Pérdida de coherencia regional;Aprendizaje profundo

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website