Если есть ссылка на Node, то его можно удалить gridPane.getChildren().remove(node);
Если нет ссылки, то только перерисовывать всю таблицу:
gridPane.setGridLinesVisible(false);
gridPane.getColumnConstraints().clear();
gridPane.getRowConstraints().clear();
gridPane.getChildren().clear();
gridPane.setGridLinesVisible(true);