А при чём тут вообще mdadm. В Proxmox он не используется и вообще не рекомендуется.
Первый вариант:
1. устанавливаешь Promox, при установке выбираешь btrfs raid 1 и указываешь два диска по 500 ГБ
2. после установки создаешь ещё один raid 1 по оф гайду
https://pve.proxmox.com/wiki/BTRFS
Второй вариант:
1. устанавливаешь Promox, при установке выбираешь btrfs raid 10 и указываешь все свои диски.