Asterisk ставится на linux, вполне подходит debian или ubuntu. Функционал, который Вы описываете, реализуется без проблем. Для преобразования из аналога нужны платы или шлюзы FXS/FXO.
Хорошие платы выпускает Digium, например
здесь можно подобрать комплектацию по типу шины (PCI/PCI-Express) и количеству FXO (внешних) и FXS (внутренних) аналоговых линий. В Вашем случае, если не будете использовать факс, то подойдёт AEX801E, её потом можно расширить с помощью модулей на 1 или 4 порта FXS/FXO.
Из IP-телефонов - Cisco Linksys SPA5xx (хороши, но дороги), Siemens Gigaset с радиотрубкой, Fanvil, Grandstream и прочие довольно дешёвые, но с качеством - как повезёт.