Как уменьшить размерность задачи для обучения нейронной сети?

Question

[vivi_r]

Входные данные - матрица 70х80, заполненная 0 и 1. Выходные - вектор из 6 значений, показывающий, какому из 6 заданных классов вероятнее всего принадлежит матрица. При использовании построчной суммы или суммы по столбцам получается, что на входном слое НС должно быть 76(86) нейронов. Каким образом можно уменьшить размерность задачи?

Comments

[Roman]

Почему 76(78)? А не 5600 (70*80)
У Вас скрытого слоя не будет?

[vivi_r]

Роман, я сейчас оцениваю чисто входной слой, причем с допущением, что вместо матрицы подаю на вход вектор, значения которого хранят построчные суммы или суммы по столбцам.
Просто уже даже входной слой говорит о большой размерности задачи, которую надо сократить.

Answer 1

[ivodopyanov]

Можно попробовать что-нибудь стандартное типа PCA. Но лучше бы получить информацию о характере возможного заполнения матрицы и попридумывать свои фичи. Построчная сумма - один из вариантов.

Входной слой в 5000 нейронов - это еще не значит, что размерность надо уменьшать. Её надо уменьшать, если из-за длины вектора обучение длится неприемлимо долго.