Constantin Tsukanov

Можно открывать не новую вкладку, а новое окно.

var win = window.open("http://mydomain.ru", "Pay", "width=200,height=200");

После этого вы можете манипулировать окном, а окно имеет доступ к создавшему его окну.
window.opener — должен содержать ссылку на родителя. Дальше в созданном окне должен браться за дело JavaScript. Если родитель еще открыт, то просто закрывать окно. Если уже закрыт, открывать родителя или перенаправлять к нему.

Но.
Same Origin Policy не даст вам манипулировать окнами на разных доменах и портах. Увы.

Можно незначительно усложнить жизнь тем, кто пытается скачать ваш лэндинг, всевозможными костылями. Например, для js, css и картинок можно сделать отдачу, только тогда, когда задан заголовок Referer и он совпадает с вашим доменом, который подставляется браузером при запросах. Можно зашить в JS код, который будет удалять какой-нибудь из верхних узлов DOM, если не совпадает доменное имя, с прописанным в нем. Тексты закодировать в base64, а код обфусцировать.

Но любой заголовок можно подставить, в том же CURL, а JS выпилить.
Тем более, никто не запретит просто открыть инспектор и сделать ctrl+c, ctrl+v по файлам.

Вопрос только в том, а нужно оно вам?