Так там не сильно мудрено - анализируешь интерфейсы, тем же nmap сканишь, вытаскиваешь прошивку любыми способами, binwalk и прочее, дальше реверс, ищешь в прошивке обработку сети, и тупишь в них
Мы как-то делали презентации на эту тему, проводили курс по реверсу и пентесту IoT, но у меня слайдов сейчас уже нет