Видимо, из-за настройки "минимальный размер шрифта" в браузере. Вы задали базовый размер шрифта на странице равный 1px, и браузер этот размер может увеличить, если он ниже минимального и ненулевой, а в итоге все элементы, заданные в rem, изменят свой размер пропорционально этому увеличению.