В layout поставьте.
<?
if (Yii::$app->user->isGuest) {
$js = <<<JS
$('body').on('click','a',function(e){
e.preventDefault();
//стартуете модальное окно
});
JS;
$this->registerJs($js);
}
?>
Но это не обезопасит открытие в другом окне. (Надо будет скрывать оригинальный href, если пользователь не залоген. Но могут быть проблемы с поисковиками)
И на кнопки меню скорее всего тоже вылазить будет.