Так же ранее столкнулся с этой проблемой и удалось ее побороть.
Вся соль в том, что jmx использует 2 порта, один вы можете задать через свойство «com.sun.management.jmxremote.port», а вот второй выбирается случайным образом.
В блоге оракла есть
обходной путь, правда прийдется перезапустить tomcat c предложенным java agent'ом.