Витая пара в большинстве случаев подойдет. Для начала сделайте набросок того что будет в каждой комнате. Вместо 3-5В лучше гнать по проводам 12В, а на конечных точках использовать маленькие преобразователи на 3 или 5 Вольт - так вы избежите падения напряжения в разных конечных точках, заодно можно использовать под светодиодное освещение, телевизор и прочую технику питающуюся от адаптеров (лучше на каждую комнату свой блок питания 12В - в соответствии с нагрузками комнаты), также такую систему будет проще соединять с аварийной системой на солнечных панелях (а ее рекомендуют все таки делать под 12 В). Датчики есть разные, для грамотной передачи данных от них в большинстве случаев не обойтись без маленького контроллера типа Arduino Nano, esp8266 и т.п. Для стационарных дачиков я бы использовал RS485 - 2 интерфейсных провода +2 по питанию, на одну линию RS485 можно подключить несколько устройств. Также можно сложить по 2 провода в витой паре и по нему прекрасно пройдет нагрузка 12В питающая датчики и контроллеры ( нагрузку для 12В исполнительных устройств пустил бы в ШВВП 2х0.5 или 0.75). Для аналоговых или IP камер есть рекомендации какой кабель лучше использовать, беспроводные камеры использовать если туда будет сложно протянуть провода - им все равно потребуется аккумулятор. Вот еще для раздумий
Витая пара подойдет для сигналов 12В и 3.3В? P.S. Если интересует - готов поучаствовать за небольшую плату в более конкретной консультации/реализации по вашем умном дому!