트랜스포머는 이미지 분류 작업에서 널리 활용되지만, 소규모 데이터셋 분류 작업에서는 데이터 양 부족과 모델 파라미터 수가 많다는 문제로 인해 분류 정확도가 낮고 수렴 속도가 느리다. 본 논문은 샌드글라스 어텐션이 융합된 점진적 하이브리드 트랜스포머 모델을 제안한다. 먼저, 하향 및 상향 샘플링을 통한 샌드글라스 자기어텐션으로 전역 특징 관계를 모델링하며, 업샘플링을 통해 다운샘플링 과정에서 손실된 정보를 보완한다. 또한 학습 가능한 온도 파라미터와 음의 대각선 마스크를 사용하여 어텐션 점수 분포를 샤프닝하여 레이어가 많아 생기는 과도한 스무딩 현상을 방지한다; 둘째, 점진적 다운샘플링 모듈을 설계하여 세밀한 다중 스케일 특징 맵을 획득하고 저차원 특징 정보를 효과적으로 캡처한다; 마지막으로 하이브리드 아키텍처를 사용하여 상위 단계에서는 설계된 샌드글라스 어텐션을 적용하고 하위 단계에서는 어텐션 모듈 대신 풀링 레이어를 사용하며, 깊은 컨볼루션이 포함된 레이어 정규화를 도입하여 네트워크 지역성을 향상시킨다. 제안한 방법은 T-ImageNet, CIFAR10, CIFAR100, SVHN 데이터셋에서 실험되었으며, 분류 정확도는 97.42%에 도달했으며 계산량과 파라미터 수는 각각 3.41G와 25M이다. 실험 결과는 대조 알고리즘 대비 분류 정확도를 크게 향상시키고 계산량과 파라미터 수를 크게 줄여 소규모 데이터셋에서 트랜스포머 모델의 성능을 향상시켰음을 보여준다.

소규모 데이터셋 이미지 분류;트랜스포머;샌드글라스 어텐션;다중 스케일 특징;하이브리드 아키텍처