Если нужно прям вот именно окно браузера отдельное, то как-то так например:
<!DOCTYPE html>
<html lang="ru">
<head>
<meta charset="UTF-8">
<title>Document</title>
<script>
function setOnclick(a) {
a.setAttribute("onclick","popupWin = window.open(this.href,'contacts','width=820px,height=700px,top=50,left=200px,toolbar=0, location=0, directories=0, menubar=0, scrollbars=0, resizable=0, status=0'); popupWin.focus(); return false");
}
function externalLinks() {
var links = document.getElementsByTagName("a");
for (i=0; i<links.length; i++) {
if (links[i].getAttribute("href") && links[i].getAttribute("rel") == "external") {
setOnclick(links[i])
}
}
}
window.onload = externalLinks;
</script>
</head>
<body>
<a rel="external" href='file.html'>ТЫК</a>
</body>
</html>
А если модальное окно - то например
fancybox можно использовать.
