isxam

Как вариант, курить в сторону FFMpeg. У него куча врапперов для всевозможных языков.
А вообще, что за язык?

Используем SMS Server Tools 3 . Пользуем под *NIX, но она вроде и под винду собирается. На события типа «пришла SMS» вешаются скрипты-обработчики. Исходящие SMS формируются как файлы формата похожего на почту в директорию для исходящих сообщений. При разрыве связи с модемом, поднимает всё автоматически. Работает надёжно.

Любой практически
Модемы поддерживают AT команды. Куда уж проще.

gnokii.org/screenshots.shtml
через командную строку получается некий API для связи например с 3G модемом с отправкой и получением сообщений
очень часто на хабре упоминался habrahabr.ru/search/?q=%5Bgnokii%5D&target_type=posts
можно под виндовз/linux запустить демона (помоему gnokii-smsd-mysql) который все входящие сразу в mysql будет складывать