Никакое новое окно открывать не надо, просто у вашего тэга
a стоит атрибут
target="_blank". Поэтому ваш браузер при клике на ссылку открывает новое окно. Пауку будет достаточно ссылки из атрибута
href.
Думаю логика действий вашего паука должна быть примерно такой:
Получаем исходную страницу -> Находим тэг a -> Извлекаем линк из атрибута href -> Получаем страницу по полученной ссылке
А дальше уже можете разбирать целевую страницу.