목표 프롬프트 토큰 기반 경량 Transformer 단일 목표 추적 알고리즘

ZHU Haoran ,  

WANG Zheng ,  

ZHANG Haifeng ,  

CHEN Weining ,  

HE Zeyu ,  

WU Xiongzhi ,  

LIANG Sirong ,  

摘要

Transformer 아키텍처 트래커는 뛰어난 전역 모델링 능력으로 정확도 면에서 우수한 성능을 보이나, 여전히 모델 크기가 크고 계산 지연이 높은 문제를 안고 있습니다. 이러한 문제를 해결하기 위해 본 논문에서는 목표 프롬프트 토큰 기반의 경량 Transformer 단일 목표 추적 방법인 TPTTrack을 제안합니다. 이 방법은 목표 프롬프트 토큰을 도입하여 목표 템플릿과 검색 영역 특성과 함께 경량 Transformer 백본 네트워크에 입력하고, 목표 사전 정보를 활용하여 영역 간 특징 상호작용을 유도해 추적의 견고성을 향상시킵니다. 동시에, 계층화된 어텐션 디커플링 메커니즘을 통해 얕은 층에서는 특징 추출과 융합을 수행하고, 깊은 층에서는 불필요한 자기 어텐션 계산을 감소시켜 계산 비용을 줄입니다. 경량 자기회귀 순차 예측 모듈과 결합하여 목표 상태의 동적 모델링과 효율적인 추정이 가능합니다. GOT-10k 및 LaSOT 데이터셋에 대한 비교 실험에서 TPTTrack은 GOT-10k에서 최적 경량 베이스라인 모델 대비 평균 중첩률이 1.4% 향상되었고, LaSOT에서는 정밀도가 1.7% 향상되었습니다. 동시에 파라미터 수와 FLOPs는 각각 5.6M 및 1.82G에 불과하며, GPU 및 CPU 추론 속도는 각각 109.2 FPS 및 20.43 FPS에 달하며, CPU 속도는 최적 경량 베이스라인 모델 대비 9.1% 증가했습니다. 종합적으로, 본 방법은 기존 경량 추적 알고리즘과 비교할 때 정밀도, 속도 및 배포 친화성 측면에서 뛰어난 성능을 보이며, 자원 제한 환경에서 단일 목표 추적 과제에 경량화된 솔루션을 제공합니다.

关键词

단일 목표 추적;Transformer;경량 모델;목표 프롬프트 토큰;계층화된 어텐션 디커플링

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website