Стоит ли писать свой сервер на Qt и через QTcpSocket принимать и отправлять данные либо взять какой-нибудь из Web-фреймворков и общаться с сервером по https?
Надежный алгоритм сервера TCP - еще то спагетти. И на клиенте тоже. Без должного внимания рискуете получить Therac-25. И со спокойной совестью словить крэш спустя месяц стабильной работы, потом еще раз, а потом еще.
Зачем нужно писать свой сервер?
Вам не подходят популярные протоколы, такие, как HTTP и WebSocket (которые могут использоваться отнюдь не только в браузере)? Что, прям тотально по всему приложению не подходят? Где специфика, там и пишут модуль, а остальное делают стандартным, и велосипед не изобретают.