Андрей Чернов

$('#popup-item').not('.done').addClass('popup-open done');

Удаляйте обработчик после того, как он выполнил нужное действие:

$(window).scroll(function onScroll() {
  const $this = $(this);
  if ($this.scrollTop() > scrollToElem) {
    $('#popup-item').addClass('popup-open');
    $this.off('scroll', onScroll);
  }
});

Добавить флаг
var popup_opened = false
в коде проверять если он false выполнять код и менять его на true, если там true, то соответственно ничего не делать.
Если надо решать вопрос и при повторных загрузках страницы - то писать флаг в localStorage