Еще можно поставить плагин Flamingo - он будет сохранять все заявки Contact Form 7 в админке, что весьма удобно. А по поводу почты - что за хостинг? Shared или свой VPS? Если shared - пишите в поддержку. Если VPS - см. ответ
Dmitry Kalinin - у вас скорее всего не установлен sendmail / postfix или аналог.