посмотрите лог ошибок движка, включите показ всех ошибок и попробуйте выполнить любой тестовый скрипт с функцией mail
если не поможет... перепишите контроллер файлом из дистрибутива.
если опять не поможет - отключайте по очереди vqmod'ы если есть
а вообще, лучше мигрировать на OC2