Там за доп плату можно прикрепить свой домен
Сокращенные ссылки будут с доменом, который указал пользователь? Очевидно, он должен в настройках своего домена указать IP адрес этого сервиса. Тогда по запросу этого домена, DNS отдаст этот IP адрес.
На стороне сервиса в настройках nginx добавляется
конфигурация, которая слушает этот домен. (из какого-нибудь шаблона добавляется, подставляется домен и перезагружается nginx).