Сам как-то задавался похожим вопросом. Остановился на 
Jitsi
Полюсы:
 — Поддержка голоса и видео
 — ZRTP шифрование
 — Поддержка jingle nodes (XEP-0278). Возможность общаться если оба собеседника за NAT'ом. Требуется поддержка со стороны сервера.
 — Open source
Минусы:
 — На джаве. Плохо вписывается в систему
 — Билды до релиза 1.0 были довольно глючными. С релизом версии 1.0 ситуация улучшилась, но иногда приходится перезапускать программу.