Привет, тебе нужно передать
CMD ["sh","-c","./documize-enterprise-linux-amd64 -port=5001 -db='${DB_USER}:${DB_PASS}@tcp(localhost:3306)/${DB_NAME}' -dbtype=mysql -salt=salt"]
на
CMD ["sh","-c","./documize-enterprise-linux-amd64 -port=5001 -db='${DB_USER}:${DB_PASS}@${DB_HOST}:3306 /${DB_NAME}' -dbtype=mysql -salt=salt"]
и передать host по имени контейнера(в примере db), Аля DB_USER=db