Если правильно понял, вам нужно включать пин RTS, так он по идее должен аппаратно включаться, когда в буфер отправки поступают данные, только если ваш модуль UART на МК поддерживает режим RS-485.
Тоже как-то использовал freemodbus только на dsPic33, приходилось в ручную включать пин. То есть делал проверку буфера на НЕпустоту и включал пин. После отправки - отключал уже в обработчике, кажись)