не стартует, горит красная лампочка.
На вашей схеме не видно ни одной красной лампочки (кроме светодиода внутри оптрона, но он явно не красный). Отсюда я делаю вывод, что сигнал о неприятностях посылает не БП, а само устройство. Его и проверяйте.
Впрочем проверить БП в автономной работе тоже полезно, нагрузив его, например, лампочками подходящей (не чрезмерной) мощности и напряжения - собственно, так опытные ремонтники и делают.
На 12 В линии выдает 11.5 В.
Обратная связь для стабилизации напряжения заведена только с выхода 3,3 вольт - его и будет БП стабилизировать, остальные выстроятся как придётся, и это сильно зависит от правильной нагрузки данного выхода.