Для конкретного примера может и подойдут решения верхние, но в общем случае - сильно не уверен.
Гарантированно можно так:
jLabel5.setText(jLabel5.getText() + String.format( Locale.US, "%.2f", y) );
Тут и разделитель чёткий - точка, и форма представления не окажется вдруг научная.