Вы можете проспонсировать разработку экранов с плотностью пикселей 10x и вложиться в покупку таковых для пользователей вашего сайта :)
Серьёзно, это очень простой концепт - вот есть у вас на изображении рамка шириной 1px.
Вы говорите `transform: scale(.8)`, размер рамки какой должен быть? `0.8px`?
Но для экрана без повышенной плотности пикселей минимальный размер пикселя - это `1`.
Как прикажете ситуацию разруливать? Это риторический вопрос, здесь нет решений помимо озвученного в первом абзаце.