На небольшом сервере поднимаешь dnsmasq
https://help.ubuntu.com/community/Dnsmasq
в конфиге dnsmasq нужно задать адрес для твоего домена
address=/your.domain/web-server-ip
где web-server-ip внутренний IP твоего веб-сервера
Дальше ищешь где изменяются параметры DHCP сервера на роутере. Обычно там есть возможность выставить адрес DNS сервера, соответственно меняешь это адрес на IP твоего небольшого сервера где уже поднят dnsmasq.
Если на роутере DHCP сервер не конфигурируется нормально, можно выключить DHCP на роутере и через тот же dnsmasq осуществлять функции DHCP сервера -
https://wiki.debian.org/HowTo/dnsmasq
Можно конечно и bind использовать, как тут советуют, но там тернистый путь настройки.