Нейросети

Последовательный и пакетный способ обучения нейросети

Прежде чем использовать нейросеть, требуется убедиться в том, что она правильно настроена и способна давать адекватные ответы при поступлении определённых запросов. Для этой цели используется так называемый «учитель» – запрос, ответ на который уже известен.

Когда запрос обрабатывается нейросетью и она выдаёт свой ответ, он сравнивается с требуемым значением. Если значение сильно отличается от нужного, то происходит корректировка нейросети, в основном методом подстройки весов синаптических связей.

При этом существует два варианта загрузки сигналов для нейросети: последовательный и пакетный.

Последовательный принцип обучения нейросети

В этом случае сначала подаётся один сигнал, затем оценивается результат работы нейросети. Если результат неудовлетворительный, начинается настройка сети методом обратного распространения ошибки. И лишь после того как удастся настроить нейросеть оптимальным образом, происходит переход к следующему сигналу.

Достоинство такого метода – сравнительно небольшое время обучения. А также то, что если многие сигналы похожи или одинаковы, последовательный метод лучше себя оправдывает.

Недостатки метода:

• Если посылается множество похожих сигналов, то система может акцентироваться именно на них, в ущерб всем остальным сигналам.
• Подстройка сети под каждый отдельный сигнал может негативно влиять на обработку ею других сигналов. Проще говоря: оптимизируя систему под обработку сигнала Б, мы ухудшаем результаты для сигнала А, для которого идеально настроили её ранее.

Пакетный принцип обучения нейросети

Если выбирается этот способ, то сигналы в сеть поступают пакетами. Промежуток времени для обучения системы под один конкретный пакет называется «эпохой».

Среди достоинств метода:

• Выше готовность сети воспринимать сигналы, которые отсутствовали в учебном пакете.
• Система оптимизируется таким образом, чтобы каждый конкретный сигнал не сбивал настройки для другого.

Другими словами, обучение не будет признано законченным, пока проверочная программа не убедится, что полученный результат позволяет обрабатывать все сигналы из пакета с наименьшей погрешностью.

Главный недостаток метода – увеличение времени обучения сети, порой во много раз. Фактически, после подстройки под новый сигнал приходится перепроверять, как теперь система обрабатывает все предыдущие сигналы, а это небыстро, если их большое количество.

Правильный выбор методики обучения нейросети во многом обеспечивает успех, то есть уменьшение времени при сохранении результата.