В общем решился вопрос.. На будущее, если кто-то еще такой-же отбитый на всю голову - вот решение, которое помогло мне:
# Клонируем arm-trusted-firmware
git clone https://git.trustedfirmware.org/TF-A/trusted-firmware-a.git
# Переходим в директорию
cd trusted-firmware-a
# Собираем (вот тут меня и ждали грабли, ибо сборка все время вылетала с ошибкой
# RWX permissions что-то там. Решилось тупым отключением предупреждений в секции LDFLAGS)
make CROSS_COMPILE=aarch64-linux-gnu- PLAT=sun50i_a64 LDFLAGS=--no-warn-rwx-segments
# Собираем u-boot по прежней схеме, но с указанием того самого BL31
make ARCH=arm CROSS_COMPILE=aarch64-linux-gnu- orangepi_3_lts_defconfig
make ARCH=arm CROSS_COMPILE=aarch64-linux-gnu- BL31=../trusted-firmware-a/build/sun50i_h6/release/bl31.bin
-j6
Вот после включения arm trusted firmware - все ожило! :))