Т.к. я пробую через программатор, мне нужно использовать прошивку sysupgrade или всё же первый?
Рискну предположить, что ни один, но не до конца понимаю, что именно вы называете "factory firmware". Особенно, если источник её появления не на 100% точно известен.
Обычно такие трюки требуются, когда устройство "совсем кирпич", т.е. взаимодействуя с ним по какому-либо "традиционному" (хоть насколько-то "пользовательскому") каналу сделать ничего нельзя.
И заливают обычно тоже дамп, сделанный программатором, т.е. в нём почти наверняка захвачены и те части памяти, которые пользователем либо не перезаписываются, либо если и перезаписываются, то как-то "более хитро".
Это, кстати, нередко помогает и оживить железку - восстанавливается её минимальная, самая базовая функциональность.
Однако, не могу утверждать всё это полностью однозначно именно для роутеров (специализируюсь на том, что в профиле, не на сетевом оборудовании), и тем более для неизвестной модели, на которую накатывается кастомная прошивка.
P.S.
Ну и вдобавок не совсем понятно по какой причине вы хотите шиться именно программатором.
Если есть прошивка и инструкция к ней, то лучше идти описанным там путём.