Для адаптации размеров текста существуют единицы sp, для линейных размеров - dp.
hdpi и тд обычно используются для различных размеров (чаще растровых) изображений.
Для лэйаутов - чаще различают портретную(по умолчанию), и ландшафтную(land) ориентации, там разные xml файлы. Также часто для устройств с большим экраном используют постфикс swXXXdp(smaller width XXX dp), например, sw600dp значит что из этой папки будут использованы ресурсы только в случае, когда у девайса длина меньшей из сторон больше либо равна 600dp.
В остальном - лэйаут должен быть рассчитан на то, что его будут тянуть или сжимать. Надо думать, будет ли помещаться тот ил иной элемент при этом, и что, если нет.
Подробнее. Ну и там в левой панеле есть куча ссылок, куда тоже стоит сходить почитать.
Насчёт того, что xml будет занимать место в памяти - нет, не будет. В смысле, это вообще неважно, никогда ты не увидишь большого потребления памяти от xml.
Что-то про проценты - нет, не поддерживается. Верстай так, как предлагает тебе система.