Основных способа - четыре.
1. На сервере ставится специальное ПО (например spamassasin, drWeb, Касперский anti-spam для Linux)
2. На сервере настраивается проверка отправителя по различным правилам (проверка соответствия домена, проверка на черные списки) и др. Обычно все это умеет практически любое специальное ПО (тот же спамассасин).
3. На машине клиента ставится анти-спам (или плагин к почтовой программе, или резидентное решение, которое перехватывает почтовый траффик pop3/smtp).
Еще как вариант - за вас это может сделать провайдер почтовых услуг. Например в google почте антиспам встроен, многие провайдеры предоставляют автоматическую проверку на спам вашей почты бесплатно или за небольшую плату.
