rem - для фиксированных размеров(как пиксели), em - для относительных размеров. Например, маржины в заголовке, который может менять кегль, можно и нужно устанавливать в em, тогда в резиновом макете он будет гораздо лучше смотреться. Но при этом использовать em в каскадных текстах с разным кеглем - не лучшая идея.
P.S: тупо переставив все px на rem вы вызовете только чувство жалости к себе, как к верстальщику.
Подробнее было не так давно на хабре расписано, к сожалению, в закладки не сохранил на такой случай. Всевидящий гугл в помощь.