Я так понимаю, что оба окна - это обычные div'ы, тогда предлагаю так:
1. Сделать основное и второстепенное окно одинакового размера. Или второстепенное сделать больше.
2. В CSS-свойствах этим окнам назначить разный z-index: основному например 10, второстепенному 100.
3. При клике на кнопку в основном окне показывать div с второстепенным (второстепенное будет располагаться выше основного, т.к. z-index больше), соответственно при нажатии на кнопку закрытия второстепенного будет снова видно основное, т.к. оно располагалось ниже.