установить одновременно и клиента Xray vless и Opnsense, чтобы они работали совместно
А в чем собственно проблема то? клиент Xray vless это прокси-клиент, Opensence - это вообще ОС для марштуризатора. Надо больше конкретики, что в мануалах, прочитанных тобой неясно, или какие ошибки при установке или настройке того или иного ты не мог исправить?
Хинт: nekoray например умеет создавать виртуальный сетевой интерфейс tun, на него можно завернуть марштуризацию всего трафика через NAT.
В связи с ограниченностью возможностей микротик по использованию актуальных протоколов
На сервере поднимай Softether VPN server c SSTP протоколом, на микротике поднимай SSTP клиента, и будет все работать по прежнему, с адресными листами и будет полноценный VPN канал без плясок с бубном и без блокировки.