야외 환경에서 목표 크기가 작고, 텍스처 정보가 약하며, 복잡한 배경 방해 및 경계 상자 위치 편차가 뚜렷한 문제를 해결하기 위해 개선된 YOLO11n 기반 야외 소형 목표 검출 알고리즘을 제안하였다. 먼저, 적응형 서브픽셀 업샘플링 모듈 ASU를 도입하여 서브픽셀 재배열과 주의 마스크를 통해 소형 목표의 가장자리 및 텍스처 세부 특징을 강화한다. 둘째, 다중 스케일 확장 컨볼루션과 이중 풀링 채널 주의를 사용하는 다중 스케일 중요도 강화 모듈 MultiSEM을 도입하여 소형 목표 영역 반응을 강화하고 복잡한 배경 방해를 억제한다. 마지막으로, 중심 거리 지수 벌점과 가림 인지 형태 제약을 도입한 중요도 지수 교집합비 손실 함수 SE-CIoU를 구축하여 소형 목표 검출의 위치 정확도와 안정성을 향상시킨다. 실험 결과, 자체 구축한 WDD 데이터셋에서 개선된 알고리즘의 정밀도, 재현율, mAP@0.5는 각각 88.8%, 91.4%, 94.0%로 YOLO11n 기준 네트워크 알고리즘보다 각각 0.6%, 6.6%, 3.3% 상승하였으며, iWildCam2022-Small 데이터셋에서 수행한 일반화 실험에서는 mAP@0.5가 64.5%로 YOLO11n보다 3.7% 향상되었다. 제안된 알고리즘은 경량화된 검출 프레임워크를 유지하면서 야외 소형 목표의 세부 표현, 중요도 반응 및 경계 상자 위치 능력을 효과적으로 향상시켜 복잡한 야외 장면에서 소형 목표 검출 정확도를 높이고 일정 수준의 일반화 능력을 갖는다.

야외 소형 목표;목표 검출;YOLO11n;서브픽셀 업샘플링;경계 상자 회귀