В свободном трансформировании можно перемещать объекты на нецелое количество пикселей, а нецелый размер можно ставить и без него. Чтобы это всё работало, нужно снять на требуемом объекте галочку "Выровнять края". Также текст можно растягивать по вертикали и горизонтали с помощью панели "Символ".
Чтобы, наоборот, округлять, наверное, нужно поставить галочку "Выровнять края".