Попрубуйте подписываться на собыия так:
$(document).on('change', '#number-select', function(){
alert($(this).val());
});
Тогда не будет разницы сколько раз вы удаляил или заменяли элемент. Это работает потому что события "всплывают" по DOM-дереву, и вы слушаете на самом высоком уровне. Но при этом фильтруете все события "change", оставляя только те которые изначально произошли на #number-select.