Нууу исходя из выше написанного могу сделать такой вывод: вектор + растр - универсальный вариант и подойдет в большинстве случаев.
P.S. В последнее время видел достаточно много новых игр с очень качественной и красивой пиксельной графикой, но все они не популярны. Я не смотрел их все, но с пиксельной графикой тоже могут быть хорошие игры, такие как Terraria, Hero Siege и др.