FRKDNet:知識蒸留に基づく特徴精錬セマンティックセグメンテーションネットワーク

JIANG Shi-yi ,  

XU Yang ,  

LI Dan-yang ,  

FAN Run-ze ,  

摘要

従来の意味的セグメンテーションにおける知識蒸留手法は、知識蒸留が不完全であったり、特徴情報伝達が十分でない問題があり、教師ネットワークからの知識伝達は複雑で特徴の位置情報が失われやすいという課題がある。これらの課題に対して、本論文では知識蒸留に基づく特徴精錬セマンティックセグメンテーションモデルFRKDNetを提案する。まず、前景特徴と背景ノイズの特性に基づき、蒸留された知識の前景内容を分離する特徴精錬方法を設計し、教師ネットワークの偽知識をフィルタリングした後、より正確な特徴内容を学生ネットワークに伝達し、特徴の表現能力を向上させる。同時に、特徴空間の暗黙的エンコーディングからクラス間距離とクラス内距離を抽出し、対応する特徴座標マスクを得る。学生ネットワークは特徴位置情報を模倣して教師ネットワークの特徴位置との差を最小化し、学生ネットワークとそれぞれ蒸留損失計算を行うことで、学生ネットワークのセグメンテーション精度を向上させ、より速い収束を支援する。最後に、公開データセットのPascal VOCおよびCityscapesにおいて優れたセグメンテーション性能を達成し、MIoUはそれぞれ74.19%および76.53%に達し、元の学生ネットワークと比較してそれぞれ2.04%および4.48%向上した。本手法は主流手法と比較して優れたセグメンテーション性能とロバスト性を持ち、意味的セグメンテーションにおける知識蒸留の新たな手法を提供する。

关键词

セマンティックセグメンテーション;ニューラルネットワーク;知識蒸留;特徴精錬;深層学習

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website