Непрерывная сегментация изображений на основе выравнивания прототипов

GAO Yongzhan ,  

HUANG Lingxiao ,  

YAO Xinbo ,  

ZHOU Kaiyuan ,  

XU Haizhe ,  

摘要

В статье предлагается метод прототипно-ориентированной инкрементальной сегментации изображений (Prototype-Aligned Incremental Segmentation, PAIS) для решения проблем катастрофического забывания знаний старых классов, недостаточного представления новых целей и динамического смещения фоновой семантики в процессе непрерывной сегментации изображений. Метод исходит из стабильности представлений объектов и объединяет инициализацию, эволюцию и компенсацию исторической семантики запросов объектов на стороне декодера в процессе непрерывного обучения. Метод включает три ключевых модуля: инициализацию с учетом прототипов (Prototype-Aware Initialization, PAI), которая генерирует запросы объектов, выбирая семантически значимые позиции из текущей карты признаков, усиливая способность модели к изучению новых классов; обучение временной согласованности (Temporal Consistency Learning, TCL), которое ограничивает согласованность ключевых семантических позиций и распределения ответов между соседними этапами обучения для смягчения деградации объектности из-за дрейфа признаков; категориально-ориентированную память (Category-Aware Memory, CAM), которая поддерживает компактные представления на уровне категорий, улучшая сохранение старых классов без зависимости от повторного воспроизведения большого объема изображений. Эксперименты на наборах данных ADE20K по непрерывной панорамной и семантической сегментации показывают, что PAIS превосходит такие методы, как ECLIPSE, BalConpas и CoMFormer, в различных настройках задач, разбиениях данных и последовательностях ввода; достигается улучшение показателя PQ на 6,75% на аннотированном наборе данных с 150 классами при снижении требований к хранению примерно в 10 раз. Результаты показывают, что PAIS эффективно балансирует между способностью изучать новые классы, сохранением старых классов и эффективностью хранения.

关键词

непрерывная сегментация изображений;выравнивание прототипов;обучение временной согласованности;категориально-ориентированная память;панорамная сегментация

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website