Segmentación semántica de imágenes con pocos ejemplos basada en doble agregación y red de auto-fusión

LIU Yu ,  

YU Ming ,  

ZHU Ye ,  

摘要

La segmentación semántica de imágenes con pocos ejemplos es una tarea muy desafiante que intenta usar unos pocos ejemplos etiquetados para segmentar objetos de nuevas clases. Los métodos principales suelen tener problemas de baja discriminación de características y sesgo de prototipos. Para aliviar estos problemas, este artículo propone un método de segmentación semántica de imágenes con pocos ejemplos basado en una doble agregación y una red de auto-fusión, que puede explotar completamente la similitud de características y reducir el sesgo de prototipos. Primero, se propone un módulo de doble agregación de características y máscaras, que construye una relación densa de similitud que cubre todas las posiciones espaciales entre las características de soporte y las características de consulta, proporcionando información semántica global para la agregación de características y máscaras. Específicamente, mediante una doble agregación de características y máscaras en la matriz de similitud de características, se pueden obtener características mejoradas guiadas y máscaras iniciales para la imagen de consulta. Luego, se propone un decodificador de auto-fusión, que reduce el sesgo de prototipos combinando auto-prototipos basados en máscaras iniciales y prototipos de soporte conocidos, y transmite información semántica categórica rica al decodificador mediante la fusión de características mejoradas con prototipos combinados. Finalmente, se optimizan aún más los resultados predichos del decodificador utilizando información de la predicción de la clase base. Nuestro método logró un mIoU de 68.3% y 71.5% en los casos de 1-shot y 5-shot en el conjunto de datos PASCAL-5i, y de 46.5% y 51.4% en el conjunto de datos COCO-20i, superando el rendimiento de los métodos principales de segmentación, pudiendo segmentar áreas objetivo de nuevas clases con mayor precisión.

关键词

segmentación semántica de imágenes con pocos ejemplos;similitud de características;doble agregación;variabilidad intraclase;auto-fusión

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website