Сейчас я пишу пользовательский хук, в который при вызове передавался бы селектор ID,
Для подобной операции не нужен хук. По-хорошему вы должны получать
ref целевого элемента, а не искать его в DOM с помощью селектора.
Мне нужно внутри одного компонента получить значение высоты другого компонента. Как это сделать?
Писать значение в store или state общего родителя.
Но столкнулся с проблемой, что в кастомных компонентах атрибут id рассматривается как prop
Потому, что id следует пробрасывать в базовые компоненты, но для решения вашей задачи это не нужно.