Трансформеры широко применяются в задачах классификации изображений, но при работе с малыми наборами данных они сталкиваются с проблемами, связанными с недостатком данных и большим количеством параметров модели, что приводит к низкой точности классификации и медленной сходимости. В данной статье предложена прогрессивная гибридная модель трансформера с интеграцией песочных часов внимания. Во-первых, с помощью нисходящего и восходящего сэмплинга моделируется глобальная характеристика с использованием песочных часов само-внимания, восходящий сэмплинг компенсирует потерю информации при нисходящем, а также используется параметр температуры обучения и маска с отрицательной диагональю для уточнения распределения внимания, избегая чрезмерного сглаживания при большом количестве слоев; во-вторых, спроектирован прогрессивный модуль снижения размера для получения мелкозернистых многоуровневых признаков, эффективно захватывающих низкоразмерную информацию; наконец, используется гибридная архитектура: на верхних уровнях применяется разработанное песочное часы внимания, на нижних – слои пуллинга вместо механизмов внимания, с введением нормализации слоев с глубокой сверточной операцией, что повышает локальность сети. Эксперименты проведены на наборах данных T-ImageNet, CIFAR10, CIFAR100, SVHN: точность классификации достигает 97,42%, при вычислениях 3,41G и 25M параметров соответственно. Результаты показывают, что предложенный метод значительно улучшает точность классификации по сравнению с конкурентами, снижая вычислительную нагрузку и количество параметров, улучшая работу трансформера на малых данных.

Классификация изображений на малых данных;Трансформер;Песочные часы внимания;Многоуровневые признаки;Гибридная архитектура