Сетевая часть - пожалуй, самая сложная часть в геймдеве (если это не браузерка, конечно).
Про интеграцию движков в существующие проекты я ещё не слышал. Обычно
сначала выбирают движок, и на его базе строится проект, затем движок может допиливаться или не допиливаться под проект при необходимости. Так что, имхо, лучше развивайте дальше своё решение. Хотя если проект ещё маленький, то можно рассмотреть как бы интеграцию вашего проекта в libGDX, а не наоборот.
Или пишите с нуля - тогда сразу выбирайте
Unity (переписывать с нуля, имея наработки, будет немного проще, а что касается C#, то лучше 1 день потерять, потом за 5 минут долететь). Сейчас новые игры пишут именно на Unity по многим причинам, в этом плане конкуренции практически нет.
Если нужен какой-то большой функционал, то можно посмотреть на отдельные библиотеки, из которых строятся игровые движки.
Физика представлена, соответственно, в виде
Box2D, можете взять его. (Другие физические движки можете гуглить, обзор всех выходит за рамки вопроса).
Что касается сетевой части, вам придется принимать
мучительные решения, как это реализовать наилучшим образом, чтобы игроки были довольны геймплеем в условиях ненулевого лага. Это целиком зависит от того, что у вас за игра и в чём фан.