MATHEMATICAL APPROACH OF THE BACKPROPAGATION METHOD FOR CONSTRUCTING ARTIFICIAL NEURAL NETWORKS
DOI:
https://doi.org/10.54309/IJICT.2024.19.3.003Ключевые слова:
метод обратного распространения; loss function; ANN (Artificial neural network); градиентный спуск, функция активации; веса; смещения; параметры.Аннотация
Метод обратного распространения ошибки, вероятно, является основной частью нейронной сети. Этот метод применяется для эффективного обучения сети, используя цепное правило, которое позволяет дифференцировать сложные функции. Другими словами, после каждого прохода через сеть метод обратного распространения выполняет обратный проход, чтобы скорректировать параметры модели, такие как веса и смещения.
В данной статье освящается важность применения метода обратного распространения ошибки с точки зрения математических формул для нейронных сетей.
Математически описана и вычислено формулами, а также доказана расчетами матричных произведений векторов для каждого слоя параметров – весов и смещений и применений сложных дифференцированных уравнений, а также важность применения алгоритма обучения метода обратного распространения ошибок для вычисления градиента (gradient descent) и необходимость применения функции активаций для минимизации функции потерь.
Скачивания
Загрузки
Опубликован
Как цитировать
Выпуск
Раздел
Лицензия
Copyright (c) 2024 МЕЖДУНАРОДНЫЙ ЖУРНАЛ ИНФОРМАЦИОННЫХ И КОММУНИКАЦИОННЫХ ТЕХНОЛОГИЙ
Это произведение доступно по лицензии Creative Commons «Attribution-NonCommercial-NoDerivatives» («Атрибуция — Некоммерческое использование — Без производных произведений») 4.0 Всемирная.
https://creativecommons.org/licenses/by-nc-nd/3.0/deed.en