Почему RBM не пользуются популярностью?

Question

[ivodopyanov]

У меня создалось впечатление, что на конференциях львиная доля докладов - про CNN, RNN и автокодировщики. А про RBM особо ничего и не рассказывают нового. Что случилось?

Answer 1

[ivodopyanov]

Нашел ответ сам: потому что основным кейсом применения RBM была инициализация весов сети через предобучение, чтобы устранить проблему деградации градиентов. Но с тех пор были найдены более эффективные способы решения этой проблемы. В частности, glorot initialization и ReLU.