Дык в plist-ах же прописывается, не? Или вы что-то другое имеете ввиду?
Как само приложение сконфигурировать, чтобы оно как voip могло работать в фоне, -
описано в доке, раздел "Implementing a VoIP App". Но если пытаться использовать этот background mode в приложениях без voip, apple всё равно завернет его на ревью.