Ксения Михайлова: Спасибо за совет! Выяснилась интересная особенность - если добавить transition-timing-function: ease-in; то дрожание появляется в начале анимации, но завершается эффект плавно.
При этом если дополнительно снизить transition до 1.5s - дрожание попадает на момент разворачивания / увеличения изображения и практически незаметно.
Также, выложил архив со страницей и изображениями - если вы (или кто то еще) захотите потестировать самостоятельно :)
Склоняюсь, что Алексей отписавшийся выше - прав.
Сегодня открывал ссылку на другом (более мощном) ПК на котором анимация была значительно более плавная, без дрожи.
После открытия нескольких ресурсоемких приложений изображения стали дрожать как листья на осеннем ветру :)