Есть ли программы для моделирования расположения базовых станции (различных конфигурации оборудования и антенн) на местности
Это называется
радиопланирование и конечно, есть много конкурирующих продуктов.
хотя бы без учета особенностей местности
А как без учета? Или Вам нужно просто в core-сеть подобрать железок разных вендоров? Ну так не серьезно...
Вот, например,
обзор некоторого софта.
Если очень хорошо поискать по торрентам, то даже найдете на поиграться что-то из
Atoll и сопутствующего...
А также посоветуйте книгу по подключения оборудования базовых станции
Вот тут я аж даже растерялся... Какого оборудования? К чему именно? Каждый вендор снабжает железо весьма подробными мануалами, но так, что бы собирать это в книги - я не встречал.