يتمتع المحول (Transformer) بتطبيقات واسعة في مهام تصنيف الصور، لكن في مهام التصنيف على مجموعات البيانات الصغيرة، يتأثر المحول بقلة حجم البيانات وكثرة معلمات النموذج، مما يؤدي إلى دقة تصنيف منخفضة وبطء في سرعة التقارب. تقترح هذه الورقة نموذج محول هجين تصاعدي مدمج مع انتباه الساعة الرملية. أولاً، يتم نمذجة العلاقات المميزة العالمية من خلال انتباه الساعة الرملية من الأسفل إلى الأعلى مع استخدام عينات علوية لتعويض المعلومات المفقودة في العينات السفلية، واستخدام معاملات درجة حرارة قابلة للتعلم وقناع قطري سلبي لتحديد توزيع درجات الانتباه بدقة، لتجنب حدوث ترطيب مفرط عند كثرة الطبقات؛ ثانياً، تم تصميم وحدة أخذ عينات تصاعدية للحصول على خرائط ميزات متعددة النطاقات ذات دقة عالية، مما يتيح التقاط معلومات الميزات منخفضة الأبعاد بشكل فعال؛ وأخيراً، باستخدام بنية هجينة، يتم استخدام انتباه الساعة الرملية في الطبقة العليا وطبقة تجميع بدلاً من وحدة الانتباه في الطبقات السفلية، مع إدخال تطبيع الطبقة المزود بالتلافيف العميق لزيادة محلية الشبكة. تم إجراء تجارب على مجموعات البيانات T-ImageNet، CIFAR10، CIFAR100، SVHN، حيث وصلت دقة التصنيف إلى 97.42٪، في حين كانت حسابات العمليات والمعلمات 3.41 جيجا و25 مليون على التوالي. تظهر النتائج التجريبية أن الطريقة المقترحة حسنت دقة التصنيف بشكل ملحوظ مقارنة بالخوارزميات الأخرى، مع تقليل واضح في العمليات والمعلمات، محققة أداء أفضل لنموذج المحول على مجموعات البيانات الصغيرة.

تصنيف صور مجموعات بيانات صغيرة;محول;انتباه الساعة الرملية;ميزات متعددة النطاقات;بنية هجينة