> В чем делают подобный дизайн железа?
ru.wikipedia.org/wiki/Altium_Designer (или старый
ru.wikipedia.org/wiki/P-CAD), есть и бесплатные аналоги.
> В чем симулируют все систему в целом?
Сначала на макете можно собрать, отладить и перенести схему в железо.