Внутреннее устройство знать не нужно, но понимание деталей работы позволяет писать приложения, которые активно используют память, и оптимизировать скорость работы.
Если у вас накопилось неиспользуемых областей памяти, сборщик мусора в какой-то момент решит их подчистить. И это может вызвать серьезную задержку в работе приложения. Собственно поэтому и неплохо понимать как он работает.