Да, делал, но это не помогло. В иностранных уроках встретил мнение, что After Effects просто не умеет отображать графику лучше, чем фактическое разрешение композиции. И они также мучаются в пикселях, анимируя мелкие векторные иконки для lottie. Видимо, это ограничение программы, которое никак не исправить...