EVALUATING OPTIMAL CONFIGURATIONS OF SHALLOW CNNS ON LOW-COMPLEXITY DATASETS

Аннотация

В настоящем исследовании изучается влияние глубины сети, конфигураций размеров ядер и типов свёрточных слоёв на производительность свёрточных нейронных сетей (CNN) при решении задач классификации изображений. Цель исследования заключается в систематической оценке того, каким образом изменения размера ядра, стратегии свёртки и глубины сети влияют на точность классификации и вычислительную эффективность. Рассматриваются как неглубокие, так и сети умеренной глубины, что позволяет определить относительную значимость модификаций ядер по сравнению с увеличением глубины сети. С использованием наборов данных MNIST и CIFAR-10 оцениваются размеры ядер от 3×3 до 11×11, конфигурации свёрток, включающие стандартные, дилатированные и страйдовые свёртки, а также глубина сети от двух до восьми свёрточных слоёв при различных разрешениях входных изображений (32×32, 64×64, 128×128 и 256×256 пикселей). Результаты показывают, что для простых наборов данных, таких как MNIST, увеличение глубины сети обеспечивает ограниченный прирост эффективности, поскольку высокая точность (~97–98 %) достигается даже при использовании неглубоких сетей независимо от вариаций размеров ядер. В отличие от этого, для CIFAR-10 использование ядер меньшего размера на ранних слоях в сочетании с увеличением глубины сети позволяет более эффективно выделять мелкодетализированные признаки, тогда как более крупные ядра на последующих слоях способствуют улучшению способности модели к обобщению при высоком разрешении изображений. Дилатированные свёртки обеспечивают заметное повышение эффективности при работе с изображениями высокого разрешения за счёт сокращения времени инференса (до двукратного ускорения при разрешении 256×256) без снижения точности, особенно в более глубоких моделях. Страйдовые свёртки, несмотря на вычислительную эффективность, приводят к устойчивому снижению точности вследствие потери пространственной информации на различных уровнях глубины сети. Полученные результаты свидетельствуют о том, что оптимальная производительность достигается благодаря сбалансированному сочетанию конфигурации ядер, стратегии свёртки и глубины сети. В дальнейшем целесообразно исследовать адаптивные архитектуры, способные динамически регулировать указанные параметры для повышения устойчивости моделей при работе с различными наборами данных и разрешениями изображений.