Segmentação semântica de imagens com poucos exemplos baseada em agregação dupla e rede de auto-fusão

LIU Yu ,  

YU Ming ,  

ZHU Ye ,  

摘要

A segmentação semântica de imagens com poucos exemplos é uma tarefa extremamente desafiadora, que tenta usar algumas amostras rotuladas para segmentar objetos de novas classes. Métodos convencionais geralmente apresentam baixa discriminabilidade de características e viés de protótipos. Para mitigar esses problemas, este artigo propõe um método de segmentação semântica de imagens com poucos exemplos baseado em agregação dupla e rede de auto-fusão, capaz de explorar plenamente a similaridade das características e reduzir o viés dos protótipos. Primeiro, é proposto um módulo de agregação dupla de características e máscara, que constrói uma relação de similaridade densa abrangendo todas as posições espaciais entre as características de suporte e consulta, fornecendo informações semânticas globais para agregação de características e máscaras. Especificamente, por meio da agregação dupla de características e máscaras na matriz de similaridade das características, pode-se obter características aprimoradas guiadas e máscaras iniciais para a imagem de consulta. Em seguida, é proposto um decodificador de auto-fusão, que reduz o viés dos protótipos ao combinar auto-protótipos baseados na máscara inicial com protótipos de suporte conhecidos, e transmite informações semânticas categóricas ricas ao decodificador por meio da fusão de características aprimoradas com protótipos combinados. Finalmente, os resultados previstos pelo decodificador são ainda mais otimizados usando informações de predição da classe base. Nosso método alcançou mIoU de 68,3% e 71,5% nos casos 1-shot e 5-shot no conjunto de dados PASCAL-5i, e de 46,5% e 51,4% no conjunto de dados COCO-20i, superando o desempenho dos métodos convencionais de segmentação, podendo segmentar com maior precisão as regiões alvo de novas classes.

关键词

segmentação semântica de imagens com poucos exemplos;similaridade de características;agregação dupla;variabilidade intraclasse;auto-fusão

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website