Какие функции активации могут быть назначены для нейронов прямого распространения?

Question

[Шерзод]

Всем привет!
Как я понимаю, всего 5 функции активации (могу ошибаться):

1. Ступенчатая
   
2. Линейная
   
3. Сигмоида
   
4. Гиперболический тангенс
   
5. ReLu
   

А какие функции активации могут быть назначены для нейронов (нейросети) прямого распространения?