сразу что в глаза бросилось
контейнер nextcloud и контейнер db находятся в разных сетях , точнее в контейнере nextcloud вы просто не добавили сеть. Конструкция links является устаревшей, используете общие сети , не забудьте их описать как описали volumes и все будет хорошо
