Проблема в том, что селект находится и скроллится внутри модалки, а не экрана. Модалка ограничена размерами экрана.
Position() использовать ненадежно, тк он рассчитывается относительно ближайшего родителя с заданным css position, чем может оказаться не тело модалки, а промежуточный тег.
