Método de geração de imagens a partir de texto integrando XLnet e DMGAN

ZHAO Zewei ,  

CHE Jin ,  

LÜ Wenhan ,  

摘要

Devido ao fato de que o codificador de texto na tarefa de geração de imagens a partir de texto não consegue explorar profundamente as informações textuais, o que leva a problemas de inconsistência semântica nas imagens geradas posteriormente, este artigo propõe um método de geração de imagens a partir de texto aprimorado baseado no modelo DMGAN. Primeiro, o texto é codificado usando o modelo pré-treinado XLnet, que, graças ao pré-treinamento em um grande corpus, pode capturar grande quantidade de conhecimento prévio do texto, possibilitando uma exploração profunda das informações contextuais; em seguida, nas fases inicial e de refinamento da geração de imagens do modelo DMGAN, é adicionado um módulo de atenção de canal, destacando os canais de características importantes, aumentando ainda mais a consistência semântica e a razoabilidade da disposição espacial das imagens geradas, bem como a velocidade de convergência e a estabilidade do modelo. Os resultados experimentais mostram que o modelo proposto, em comparação com o modelo DMGAN original no conjunto de dados CUB, melhorou o índice IS em 0,47 e reduziu o índice FID em 2,78, demonstrando plenamente a melhor capacidade de geração cross-modal do modelo.

关键词

geração de imagens a partir de texto;modelo XLnet;rede generativa adversarial;atenção de canal

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website