Денис Загаевский

OuterClass.this.
И не ссылку на класс, а ссылку на экземпляр класса.

Я думаю, потому что (85*85) < (y+(double)Gdx.graphics.getHeight()/2)*(y+(double)Gdx.graphics.getHeight()/2
Что, в общем-то, логично, если это высота экрана. Таким образом, корень из отрицательного числа - число комплексное, и Math.sqrt легитимно возвращает NaN. Все дальнейшие вычисления с NaN дают снова NaN.

Во-первых, у вас game_fragment_container лежит выше, чем ваши view (потому что ниже в файле резметки), для начала стоит попробовать поменять их местами.
Во-вторых, libGDX рисует всё в SurfaceView, если мне не изменяет память, а у него есть такой флажок setZOrderOnTop, и если он выставлен (надо проверять), то свой контент вы не увидите.