Маску можно сделать тем же ЛУТом.
Вот как люди делают. Технология несложная: сначала ЛУТим плату, травим, лудим в Розе или Вуде, затем печатаем маску и ЛУТим ее.
Ну, а развести плату можно в каком-нибудь предназначенном для этого каде. Я, например, использую кикад.