в вызове AjaxForm укажите в параметре `&successMessage` следующее:
successMessage=`Ваше сообщение успешно отправлено <script>document.getElementById('xxx').reset(); </script>`
, где "xxx" - ID вашей формы из модального окна. Ну или аналогичное реализуйте через jQuery или что там у вас.