Не совсем ясен вопрос, если свести 2 слоя с разными наложениями всегда будет Normal.
Попробуйте Ctrl+Alt+Shift+E — эта команда создаст картинку из всех активных слоёв, а сами слои не тронет. Или Ctrl+Shift+E —сведёт все видимые слои в фон, а невидимые не тронет.
Feather — сглаживает проникая в объект выделения.
Smooth — просто сглаживает углы у выделения.
Понятней всего будет сделать процедуру на одинаковых фигурах с одинаковыми настройками и применить к ним маску.
