Método de reconstrucción 3D a partir de una sola vista optimizado para oclusiones basado en campos radiactivos neuronales

CHEN Zhijie ,  

DENG Huiping ,  

XIANG Sen ,  

WU Jin ,  

摘要

La reconstrucción tridimensional a partir de una sola vista consiste en recuperar la forma geométrica tridimensional de un objeto o escena a partir de una imagen bidimensional capturada desde un solo ángulo. Debido a la información limitada de una sola vista, la oclusión causa desenfoque entre las características de la imagen, impidiendo recuperar con precisión los detalles de la apariencia del objeto. Este artículo propone un marco basado en campos radiactivos neuronales (NeRF) que aprovecha plenamente la información global y contextual local de la imagen para resolver el problema de la oclusión. En primer lugar, se utiliza Vision Transformer, que tiene la capacidad de capturar correlaciones remotas en los datos, para aprender las características globales de la imagen, combinado con un módulo de atención de canal SE para evitar la pérdida de información en múltiples capas y la redundancia de información; en segundo lugar, se utiliza una red neuronal convolucional para extraer características locales alineadas con píxeles, combinada con convolución dilatada en una estructura de agrupación piramidal dilatada para aumentar el campo receptivo, explotar información contextual multiescala y proporcionar más información para recuperar los detalles de las zonas ocluidas; finalmente, se diseñó un módulo de agregación de características de densidad basado en Transformer para reducir la inexactitud en la predicción de densidad causada por la oclusión. Los experimentos en el conjunto de datos ShapeNet-NMR demuestran que este método puede sintetizar nuevas vistas con más detalles y muestra una buena capacidad de generalización cuando se aplica a objetos invisibles.

关键词

campos radiactivos neuronales;oclusión;convolución dilatada;Transformer

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website