طريقة توليد الصور النصية المعتمدة على الانتباه الذاتي ودمج ميزات الصورة

LIAO Yonghui ,  

ZHANG Haitao ,  

JIN Haibo ,  

摘要

تستخدم طرق توليد الصور النصية الهرمية الحالية في مرحلة توليد الصورة الأولية الرفع فقط لاستخراج الميزات، وعمليه الرفع هي في جوهرها عملية التفاف، وتقييدات عملية التفاف تؤدي إلى تجاهل المعلومات العالمية وعدم تفاعل الدلالات البعيدة المدى. على الرغم من وجود طرق تضيف آلية الانتباه الذاتي داخل النموذج، إلا أن هناك مشكلات متعلقة بفقدان التفاصيل في الصور وأخطاء هيكلية في الصور. استجابةً للمشكلات المذكورة، تم اقتراح نموذج شبكة تنافسية توليدية يعتمد على الانتباه الذاتي ودمج ميزات الصورة SAF-GAN. تم إدخال وحدة الإشراف الذاتي المبنية على ContNet إلى مرحلة توليد الميزات الأولية، مع استخدام آلية الانتباه للتعلم الذاتي للخريطة بين ميزات الصورة، من خلال العلاقات السياقية للميزات توجيه مصفوفة الانتباه الديناميكية، لتحقيق دمج عالٍ بين التنقيب السياقي والتعلم الذاتي للانتباه، مما يحسن من جودة توليد ميزات الصورة منخفضة الدقة، وبعد ذلك يتم تحقيق التكرير لتوليد صور عالية الدقة من خلال تدريب متبادل في مراحل مختلفة من الشبكة. كما تم إدخال وحدة تعزيز دمج الميزات، حيث يتم دمج ميزات منخفضة الدقة من المرحلة السابقة للنموذج مع الميزات الحالية، مما يتيح لشبكة التوليد الاستفادة الكاملة من المعلومات الدلالية العالية للميزات السفلى والمعلومات عالية الدقة للميزات العليا، مما يضمن اتساق دلالي أكبر بين خرائط الميزات ذات الدقة المختلفة، وبالتالي تحقيق توليد صورة واقعية عالية الدقة. تظهر النتائج التجريبية أن نموذج SAF-GAN يتفوق على النموذج المرجعي (AttnGAN) على مؤشرات IS وFID، حيث تحسن مؤشر IS بمقدار 0.31 وانخفض مؤشر FID بمقدار 3.45 على مجموعة بيانات CUB؛ وزاد مؤشر IS بمقدار 2.68 وانخفض مؤشر FID بمقدار 5.18 على مجموعة بيانات COCO. يستطيع نموذج SAF-GAN توليد صور أكثر واقعية، مما يثبت فعالية هذه الطريقة.

关键词

الرؤية الحاسوبية; الشبكات التنافسية التوليدية; توليد الصور من النصوص; CotNet; دمج ميزات الصورة

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website