Всем привет! Изучаю VAE (Variational autoencoder) и возник вопрос: как вычисляется MSE? (я знаю, что там функция потерь также включает дивергенцию Кульбака — Лейблера, но интересует именно MSE)
Объясню:
Для того чтобы сформировать распределение латентного пространства необходимо вычислить мат.ожидание и дисперсию.
Как я это я понял:
1. Берется батч и на основании всех объектов из этого батча для каждого признака вычисляется мат.ожидание и дисперсия.
2. На основании этого мат.ожидания и дисперсии формируется латентное пространство
3. Затем с помощью рандомайзера в этом латентном пространстве сэмплируем вектор, который идет на декодер.
И вот тут у меня возникает вопрос - правильно ли я понимаю, что если батч состоит из, например, 50 объектов (X) - то необходимо сэмплировать 50 векторов из латентного пространства и на выходе из декодера получить 50 объектов (Y), которые и будут сравниваться между собой в MSE (X≈Y)
Или как это работает?
Средний
