Можно изменить масштаб средствами css, прописав их для блока капчи. Стандартно вроде блок с классом - g-recaptcha.

transform:scale(0.8);
-webkit-transform:scale(0.8);
transform-origin:0 0;
-webkit-transform-origin:0 0;

Так же как и в мобильной версии сделать другой масштаб к примеру используя медиа запросы -@media screen and (max-height: 480px){}

Кроссбраузерно думаю никак. В Firefox это настраивается пользователем. Opera вроде тоже. В остальных браузерах поидее должен работать подобный код

function newOpen (url)
{
var win = window.open (url);
win.blur();
window.focus();
window.open (document.location);
return false;
}