GreatRash

Потому что функция showValues ничего не возвращает.

Ну а почему меню не должно двигаться то? Вы ему сказали: "двигайся", оно и движется.

var timer = null;

$(window).on('scroll', function() {
  clearTimeout(timer);
  
  timer = setTimeout(function() {
    alert('прокрутка прекратилась');
  }, 100);
});

Решение задачи в общем виде.
Решение задачи для ленивых.

$('button').on('click', function(e) {
  $(dropUp).toggleClass('ops');
  e.stopPropagation();
});

$(document).on('click', function() {
  $(dropUp).removeClass('ops');
});

Родительское окно из которого был вызван метод .open() доступно при помощи свойства .opener. Соответственно вы можете перед вызовом метода .close() передать в родительское окно флаг, что окно закрылось программно. А затем проверять: если флага не оказалось, значит юзер сам кликнул на крестик.