Сделал через строки перекодировки
public static String xor54Str(String s) {
String sourcePattern = "ёйцукенгшщзхъфывапролджэячсмитьбюЁЙЦУКЕНГШЩЗХЪФЫВАПРОЛДЖЭЯЧСМИТЬБЮ";
String resultPattern = "ЋЯАЕЬУЫХОПСГМВНФЦЩЖШЭТРЛЙБЗЪЮДКЧИћяаеьуыхопсгмвнфцщжшэтрлйбзъюдкчи";
StringBuilder res = new StringBuilder();
for (int i = 0; i < s.length(); i++) {
int j = resultPattern.indexOf(s.charAt(i));
if (j == - 1) {
int tmp = s.charAt(i);
res.append((char) (tmp ^ 54));
}
else {
res.append(sourcePattern.charAt(j));
}
}
return res.toString();
}