Few-Shot-Semantische Bildsegmentierung basierend auf doppelter Aggregation und Selbstzusammenführungsnetz

LIU Yu ,  

YU Ming ,  

ZHU Ye ,  

摘要

Few-Shot-Semantische Bildsegmentierung ist eine sehr herausfordernde Aufgabe, die versucht, mit wenigen beschrifteten Beispielen neue Klassen zu segmentieren. Gängige Methoden weisen häufig Probleme wie geringe Merkmalstrennschärfe und Prototypabweichungen auf. Um diese Probleme zu mildern, schlägt diese Arbeit eine Few-Shot-Semantische Bildsegmentierungsmethode basierend auf doppelter Aggregation und einem Selbstzusammenführungsnetz vor, die Merkmalsähnlichkeiten umfassend nutzt und Prototypabweichungen verringert. Zunächst wird ein Merkmal-Maske-Doppelaggregationsmodul vorgestellt, das dichte Ähnlichkeitsbeziehungen zwischen Unterstützungsmerkmalen und Abfragemerkmalen über alle räumlichen Positionen hinweg aufbaut und globale semantische Informationen für die Merkmals- und Maskenaggregation bereitstellt. Konkret ermöglicht die doppelte Aggregation von Merkmalen und Masken über die Merkmalsähnlichkeitsmatrix, für das Abfragebild verstärkte, geleitete Merkmale und eine initiale Maske zu erhalten. Anschließend wird ein Selbstzusammenführungsdecoder vorgeschlagen, der Prototypabweichungen durch Kombination von selbstbasierten Prototypen auf Basis der initialen Maske und bekannten Unterstützungsprototypen reduziert und durch Fusion verstärkter Merkmale und kombinierter Prototypen reichhaltige Kategorienssemantikinformationen an den Decoder übermittelt. Schließlich werden die Vorhersageergebnisse des Decoders weiter durch Grundklassen-Vorhersageinformationen optimiert. Unsere Methode erreicht einen mIoU von 68,3 % und 71,5 % in 1-Shot- und 5-Shot-Fällen auf dem PASCAL-5i-Datensatz sowie 46,5 % und 51,4 % auf dem COCO-20i-Datensatz und übertrifft die Segmentierungsleistung gängiger Methoden, wodurch Zielbereiche neuer Klassen genauer segmentiert werden können.

关键词

Few-Shot-Semantische Bildsegmentierung;Merkmalsähnlichkeit;Doppelaggregation;innerhalb-Klassen-Variabilität;Selbstzusammenführung

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website