Сам же нашел ответ своему вопросу, все дело было в index.
Т.е. при удалении какой либо метки, index заного перестраивается, т.е. его каунтер сбрасывается и если было 1,2,3,4,5 и при удалении 4 точки, как я думал должно быть 1,2,3,5 оказалось ошибочными. После удаления index сбрасывался и становился 1,2,3,4.
Т.е. просто тупо дописал в событие клика на удаление, брать общий список элементов кнопки удаления и по i++ перераспределять index.