man postfix, man exim. Так же рекомендую почитать книжку "администрирование Postfix", есть перевод на русский. Там детально описывается какой процесс за что отвечает. Rtfm, в общем)
Может дело в том что "HELO", "MAIL FROM;" и прочие управляющие команды должны быть в верхнем регистре?
upd:
ответ сервера "502" намекает что такой команды нет.
