у меня была такая проблема с Windows Server 2008. По неопытности я плохо настроил SMTP-сервер, и он допускал возможность использования его в качестве mail relay. У меня в аутбоксе сервера набиралось около 65к писем и отправлялись без остановки.
Ограничьте возможность отправки почты с вашего SMTP с конкретных IP-адресов.
Здесь
test.nettools.ru/ можно проверить возможность использования вашего сервера в качестве mail reley.
Мне было достаточно оставить доступ к серверу только для него самого по IP — рассылки кончились