FRKDNet: Сеть семантической сегментации с извлечением признаков на основе дистилляции знаний

JIANG Shi-yi ,  

XU Yang ,  

LI Dan-yang ,  

FAN Run-ze ,  

摘要

Традиционные методы дистилляции знаний для семантической сегментации по-прежнему сталкиваются с проблемами неполной дистилляции знаний и незначительной передачи информации о признаках, а ситуация с передачей знаний от учительской сети сложна и легко теряется информация о позициях признаков. Для решения вышеуказанных проблем в данной статье предложена модель семантической сегментации с извлечением признаков на основе дистилляции знаний под названием FRKDNet. Во-первых, на основе характеристик признаков переднего плана и фонового шума была разработана методика извлечения признаков для отделения переднего плана из дистиллируемых знаний; после фильтрации ложных знаний учительской сети более точное содержимое признаков передается студенческой сети для повышения представительной способности признаков. Одновременно в неявном кодировании признакового пространства извлекаются межклассовые и внутриклассовые расстояния для получения соответствующей маски координат признаков. Студенческая сеть минимизирует разницу в позициях признаков с учительской сетью путем моделирования позиции признаков и отдельно вычисляет потери дистилляции со студенческой сетью, что повышает точность сегментации студенческой сети и способствует более быстрому сходу. В конечном итоге была достигнута отличная сегментационная производительность на общедоступных наборах данных Pascal VOC и Cityscapes с MIoU соответственно 74,19% и 76,53%, что на 2,04% и 4,48% выше по сравнению с исходной студенческой сетью. Предложенный метод обладает лучшей сегментационной производительностью и устойчивостью по сравнению с основными методами и предоставляет новый подход к дистилляции знаний для семантической сегментации.

关键词

семантическая сегментация;нейронные сети;дистилляция знаний;извлечение признаков;глубокое обучение

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website