У приложения Transmission нет поддержки https, чтобы она появилось надо его вешать за обратный прокси с ssl сертификатом (Панель управления-Портал для входа-Дополнительно). А так же не забудьте включить и настроить Брандмауэр.
Но вообще плохая идея выставлять NAS напрямую в Internet и пробрасывать на него порты в роутере.
Если нужен доступ извне, то лучше использовать VPN на роутере для доступа в локальную сеть или сеть Tailscale.
Еще можно купить свой домен и настроить Cloudflare Tunnel пробросив в него только нужные вам приложения, а не весь NAS. Для Cloudflare Tunnel можно настроить права доступа и роутинга, если надо включить дополнительную авторизацию и скрыть свой домашний ip.