Вы хотите создать именно своё железо? Не хочу показаться невежливым, но это крайне дорого и сложно для одиночки (хотя теоретически возможно). Купите плату с SoC типа FPGA+ARM (например, Zynq 7000 или Zynq UltraScale), и с нужным количеством портов, и курите Verilog, SystemVerilog, сетевые протоколы, методики верификации (UVM). На несколько лет занятий хватит.
Потом можно будет сделать свой вариант платы, тут нужно будет вкурить САПР, signal integrity, разводку high-speed (всякие там DDR3 и DDR4), методы и технологии монтажа, прикупить хороший осцилл и лог. анализатор (не с али), и прочего барахла на несколько десятков тысяч долларов. В общем-то, это возможно.
