Ein Einzelbild-3D-Rekonstruktionsverfahren mit Verdeckungsoptimierung basierend auf neuronalen Strahlungsfeldern

CHEN Zhijie ,  

DENG Huiping ,  

XIANG Sen ,  

WU Jin ,  

摘要

Die dreidimensionale Rekonstruktion aus einer einzelnen Ansicht stellt die dreidimensionale geometrische Form eines Objekts oder einer Szene anhand eines zweidimensionalen Bildes aus einem einzigen Blickwinkel wieder her. Aufgrund der begrenzten Informationen einer einzigen Ansicht führt Verdeckung zu Unschärfen zwischen den Bildmerkmalen, was eine genaue Wiederherstellung der äußeren Details des Objekts verhindert. In diesem Artikel wird ein auf neuronalen Strahlungsfeldern (NeRF) basierender Rahmen vorgestellt, der die globalen und lokalen Kontextinformationen des Bildes nutzt, um das Problem der Verdeckung zu lösen. Zunächst wird der Vision Transformer verwendet, der die Fähigkeit besitzt, entfernte Datenkorrelationen zu erfassen, um die globalen Bildmerkmale zu lernen, kombiniert mit einem SE-Kanalaufmerksamkeitsmodul, um Informationsverlust über mehrere Ebenen und Redundanz zu verhindern; zweitens werden convolutionale neuronale Netze verwendet, um pixelgenaue lokale Bildmerkmale zu extrahieren, kombiniert mit dilatierten Faltungen in einer dilatierten Pyramid-Pooling-Struktur, um das Empfangsfeld zu vergrößern, mehrskalige Kontextinformationen zu erschließen und mehr Informationen zur Wiederherstellung der Details verdeckter Bereiche bereitzustellen; schließlich wurde ein transformerbasiertes Dichte-Merkmals-Aggregationsmodul entwickelt, um die durch Verdeckung verursachten Ungenauigkeiten bei der Dichtevorhersage zu reduzieren. Experimente mit dem ShapeNet-NMR-Datensatz zeigen, dass diese Methode neue Ansichten mit mehr Details synthetisieren kann und eine gute Generalisierungsfähigkeit bei der Anwendung auf unsichtbare Objekte aufweist.

关键词

neuronale Strahlungsfelder;Verdeckung;dilatierte Faltung;Transformer

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website