В свое время начинал изучать IP-телефонию сразу на практике в реальном проекте.
Книга и документация дадут вам только лишь теоретические знания - это не плохо для начала, но совсем никак не продвинет в изучении предмета!
Без практического применения знаний вы ничего не поймете.
Самый простой способ постичть азы SIP-телефонии - развернуть свой Asterisk и экспериментировать на нем, параллельно изучая документацию (благо она есть в достатоточном количестве) и сопутствующие форумы.
Более сложный, но наиболее продуктивный метод изучения всех тонкостей SIP-протокола (на котором собственно все это безобразие базируется) - это развернуть OpenSIPS и проштрудить
вот этот документ (можно найти "бесплатный" вариант).
Так же стоит обратить внимание на FreeSwitch (офф документации вполне может быть достаточно на первоначальном уровне).
