Вот честное слово, когда вижу такие вопросы хочется ругаться матом.
Скажите, пожалуйста, вы учились в средней школе, или после детского садика сюда пришли?
Имеем выражение: (100vh - 656px) / 2 + 330px =
Раскроем скобки: 100vh / 2 - 656px / 2 + 330px =
Выполним деление: 50vh - 328px + 330px
Сложим коэффициенты: -328px + 330px = 2px
собираем воедино: 50vh + 2px
Это что касается формулы.
В остальном совсем все просто. Сначала вычислится высота (50vh + 2px), и если она окажется менее, чем 330px, то станет равной трёмстам тридцати пикселям.