Кодируют сами камеры, поддержка от сервера не требуется. Вы просто по сети подхватываете потоки с камер и пишете в архив.
Вопрос приемущества h264 спорный на мой взгляд. С точки зрения емкости архива (требует меньше емкости) он в не конкуренции, но стоит учитывать что h264 все же кодек с предсказанием, т.е. к примеру: из 30 кадров — один кадр это полная информация, остальные кадры додуманные кодеком. MJPEG более требователен к емкости, но там все кадры содержат полную информацию. В некоторых странах европы h264 не прокатывает в судах, как раз по причине что кадры «довыдумываются», аля фотошоп =) Уточните у своей службы безопасности задачи видеонаблюдения, если просто смотреть и писать — берите h264, если все более серьезно — то mjpeg.