Ну к сожалению в угоду массовой культуре выбрано название, которое никак не отражает ни что это на самом деле ни как это работает. Нейронов там никаких и близко нет, есть логистический классификатор, который якобы работает как "нейрон" (что конечно даже близко не так, он простую формулу считает, работа же нейрона в миллиард раз сложнее), ну и набор таких логистических классификаторов называется нейронной сетью.
Работу такой сети не только можно заменить формулой, она и есть формула. При обучении мы лишь подбираем коэффициэнты в этой формуле таким образом чтоб она давала, как можно более подходящие для нас результаты.