mDOGx

Недавно опробовал на практике камеру DCS-942L. Она имеет инфракрасный датчик движения и датчик движения по изменению изображения. Подключается к роутеру по LAN или WiFi, может отправлять на email/FTP картинки и фрагменты видео при обнаружении движения. Не знаю, как помочь в вашей ситуации с отправкой смс, но со всем остальным вроде справляется. После выключения/включения восстанавливает wifi-связь примерно через 30-60 сек и продолжает функционировать.
Про внешний сервер было верно подмечено в комментариях: если кто-нибудь проберется, он догадается унести технику. Но в принципе системник с локальным FTP сервером можно куда-нибудь очень тщательно запрятать.
Т.е. мой совет: несколько подобных камер + системник с FTP сервером + дополнительная отправка срабатываний на внешний почтовый ящик большого объема.

— уведомление при фиксации движении на почту или смс;

Это наверное самый сложный пункт. Но вполне реализуемый.

Я предпочитаю avreg и IP камеры с POE. Правда самих камер на рынке столько, что я устал выбирать. Покупал на работу, так что вопрос о цене не стоял. Купил дорогие. Сам avreg настраивается не с пол пинка, но ответы на все вопросы есть на сайте и в почтовой рассылке. Это решение для Linux. Реализовать отсылку смс можно при помощи gsm-модема, наверняка уже есть протоптанная дорожка.

Плата видеозахвата хороша только если это готовое решение (плата + драйвера + программа) для компьютера или готовый видеорегистратор, но соглашусь с vovochkin, китайские видеорегистраторы жутко глючные. Но можно почитать, повыбирать, лично мне советовали видеорегистраторы Praxis. У такого решения есть еще один минус — это большее количество проводов и видеорегистраторы очень не гибкие в настройке, если он не умеет отсылать смс, то его скорее всего не научить.

IP камера с POE и какой-то софт для Windows тоже не плохое решение. Использовал софт от iTV, не сказать, что было дешево, но все работало стабильно и с пол пинка. Придумать отсылку смс в Windows тоже не проблема, причем наверняка такое уже реализовали в каких-то продуктах, но наверняка платных.

После выключения питания обычно все само поднимается обратно, стартует система, запускается программа, начинает получать сигнал с камер. Желательно предусмотреть ИБП, ведь свет могут выключить специально. Также полезна ИК подстветка или дежурное освещение.

И архив. Желательно предусмотреть, чтобы данные сливались куда-то на внешний сервер. Унесут комп вместе с имуществом.

Опять же, сделал бы проще.
ru.ivideon.com/microdigital-mdc-i4240/
+ «облачный» сервис Ивидеона.
Из оборудования — только камеры и роутер…

Я бы смотрел в сторону старого системника + avreg до 4х камер бесплатный умеет работать как с аналоговыми камерами так и с IP. Все ваши хотелки там реализованы из коробки. По камерам смотрите от бюджета. С китайскими регистраторами связываться категорически не советую, виснут, теряют сигнал, отваливается запись, детектор движения работает приотвратительно.

Внедрял IP-камеры Beward на оптовом складе. 1 камера — 150$. + PoE адаптер ~ 20$
Еще свитч ~ 100$.
Видео сервер — простой системник с хардом 3 ТБ.
От беварда идет бесплатный софт для виндовс. Достаточно удобный и не сильно глючный.

Внедрял такие
Есть такие же, только с wifi
Ну и бесплатный софт

Я бы взял старый системник, установил на него какой-нибудь спецсофт и подключил IP-камер в нужном количестве. Плюсы такого решения: не нужно заморачиваться с платой захвата, при необходимости камеры можно прокинуть в интернет. С китайскими регистраторами аналоговых камер связываться не советую: сталкивался с ними два раза, оба раза мне не понравилось. Хотя это вопрос везения, наверное.
Из софтовых решений могу посоветовать бесплатную версию AxxonNext: 16 каналов, терабайт архива, детекторы. Работать можно как и с китайскими noname-устройствами (если те поддерживают ONVIF, PSIA или просто умеют отдавать видео по RTSP), так и с чем-то более приличным. В последнем варианте можно и настройками камеры управлять, и встроенные детекторы камер (т.е. не нагружающие сервер) использовать.

Какое количество смс? Если большое то могу посоветовать сервис с минимальными ценами на рынке.

Как уже указали — проще всего через сервисы с API. Тысячи их. Единственное, смотрите внимательно на тарифы и все что идет мелким шрифтом.

Можно использовать специальные сервисы, у которых есть API. В среднем смс доставляется за 10 секунд. smsintel.ru, 24send.ru лично использовал — все норм. В принципе у всех это одинаково работает, честно говоря. Только стоимость разная.

Регистрируетесь, напрмер тут turbosms.ua/, и получаете возможность отправлять смс через шлюз оператора с сайта. Примеры кода там есть.