Нейрон

Что ж, обозначение нейрона в нейронной сети пришло от нейронов в головном мозге живых существ. И хотя о работе человеческого мозга учёные имеют также мало информации как про дальний космос и чёрные дыры, нейрон и принцип его работы в нейронной сети описать достаточно просто, а запрограммировать ещё проще.

Первые упоминания об искусственной нейронной сети, сети взаимосвязанных нейронов и их обучении начали появляться ещё около 1950 года.

Давай попробуем на простых примерах понять как они работают.

— В этой и следующих двух статьях увидешь чутка алгебры. Держу за руку!

Задача нейрона — думать. В него поступают какие-то цифры, он их как-то обрабатывает (ну типо обдумывает) и присваивает себе результат этой обработки. Число.
Что это напоминает из линейной алгебры? Это напоминает функцию. Она тоже принимает в себя набор значений и отдаёт только одно.

В большинстве ситуаций, для расчёта значения нейрона используется линейная регрессия. Нейрон 1 передаёт своё значение в нейрон 2, которое обрабатывается весом «w» и баесом «b».

А если смотреть через формулу, то увидим:

Понимание формулы.

На всякий случай, баес это просто параметр, который мы можем ввести, а регрессией называется уравнение, прогнозирующее следующее значение исходя из текущего.

Фиксируем. Нейрон — это математическая функция. Нейронами нейросеть думает. Ок?
Ок.

— Давай рассмотрим на цифрах, как нейрон думает.

Есть 2 лесоруба (нейрона). Лесоруб 1 срубил 4 дерева, по этому его значение равно 4. Он отправляет на лесовозе эти 4 дерева другому лесорубу. Мы знаем, что в процессе перевозки только 75% стволов останутся пригодны для обработки. Сколько бревен получит Лесоруб 2? Вычисляем по формуле линейной регрессии, что приведена выше.
В данном примере считаем баес равным нулю.

Таким образом, если значение нейрона 1 равно 4, вес 0,75, то значение нейрона 2 равно 3. Мы посчитали его через функцию линейной регрессии.

Итого.

На самом деле это и всё. Но в нейросетях не 1 и не 2 нейрона, их может быть десятки миллиардов.

Пока, давай рассмотрим как происходит обмен информацией между несколькими нейронами?
Но это уже в следующий раз.

Далее к нам в гости зайдёт нейронное поле или обычный перцептрон.