FRKDNet: 지식 증류 기반 특징 정제 의미 분할 네트워크

JIANG Shi-yi ,  

XU Yang ,  

LI Dan-yang ,  

FAN Run-ze ,  

摘要

기존의 전통적인 의미 분할 지식 증류 방법은 지식 증류가 완전하지 않고 특징 정보 전달이 불분명한 문제점이 있으며, 교사 네트워크가 전달하는 지식 상황이 복잡하여 특징 위치 정보가 쉽게 손실되는 문제가 있다. 이러한 문제를 해결하기 위해 본 논문에서는 지식 증류 기반 특징 정제 의미 분할 모델 FRKDNet을 제안한다. 우선 전경 특징과 배경 노이즈의 특성에 따라 증류된 지식 내 전경 내용을 분리하기 위한 특징 정제 방법을 설계하였으며, 교사 네트워크의 가짜 지식을 필터링한 후 보다 정확한 특징 내용을 학생 네트워크에 전달하여 특징의 표현 능력을 향상시킨다. 동시에 특징 공간의 암묵적 인코딩에서 클래스 간 거리와 클래스 내 거리를 추출하여 해당하는 특징 좌표 마스크를 얻고, 학생 네트워크는 특징 위치 정보를 모방하여 교사 네트워크 특징 위치와의 차이를 최소화하며, 학생 네트트워크와 각각 증류 손실 계산을 수행하여 학생 네트워크의 분할 정확도를 향상시키고 더 빠른 수렴을 돕는다. 마지막으로 공개 데이터셋 Pascal VOC와 Cityscapes에서 우수한 분할 성능을 달성했으며, MIoU는 각각 74.19%와 76.53%로 원래 학생 네트워크보다 각각 2.04%와 4.48% 향상되었다. 본 방법은 주류 방법에 비해 더 우수한 분할 성능과 강건성을 가지고 있으며, 의미 분할 지식 증류에 새로운 방법을 제공한다.

关键词

의미 분할;신경망;지식 증류;특징 정제;딥러닝

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website