Вас интересует Feature Selection.
en.wikipedia.org/wiki/Feature_selection . Куда дальше копать, сейчас подсказать не могу. Если интересует просто уменьшение размерности, а не какая фича важнее, то можно использовать PCA. Самые популярные алгоритмы реализованы в библиотеках Machinle learning типа WEKA.