El Transformer tiene una amplia aplicación en tareas de clasificación de imágenes, pero en tareas de clasificación con conjuntos de datos pequeños, el Transformer se ve afectado por la poca cantidad de datos y la gran cantidad de parámetros del modelo, lo que resulta en baja precisión de clasificación y convergencia lenta. Este artículo propone un modelo Transformer híbrido progresivo que integra atención en forma de reloj de arena. Primero, mediante el muestreo descendente y ascendente de la atención en reloj de arena, se modelan las relaciones globales de características, utilizando el muestreo ascendente para compensar la información perdida en el muestreo descendente, y al mismo tiempo se emplean parámetros de temperatura aprendibles y una máscara diagonal negativa para afinar la distribución de las puntuaciones de atención, evitando el exceso de suavizado causado por un gran número de capas; en segundo lugar, se diseña un módulo de muestreo descendente progresivo para obtener mapas de características multiescala de alta resolución, capturando eficazmente información de características de baja dimensión; finalmente, se utiliza una arquitectura híbrida, empleando atención en reloj de arena en la etapa superior y capas de pooling en la etapa inferior en lugar del módulo de atención, e introduciendo normalización por capas con convoluciones profundas para aumentar la localidad de la red. Los experimentos realizados en los conjuntos de datos T-ImageNet, CIFAR10, CIFAR100 y SVHN muestran que la precisión de clasificación puede alcanzar el 97.42%, con un cálculo y un número de parámetros de 3.41G y 25M, respectivamente. Los resultados experimentales demuestran que el método propuesto mejora significativamente la precisión de clasificación en comparación con los algoritmos contrapuestos, con una reducción evidente en el cálculo y los parámetros, mejorando el rendimiento del modelo Transformer en conjuntos de datos pequeños.

Clasificación de imágenes en conjuntos de datos pequeños;Transformer;Atención en reloj de arena;Características multiescala;Arquitectura híbrida