Если выключить тумблер на самом блоке питания (ну или из розетки выдернуть) то питания совсем не будет.
А так ATX блоки питания подают "дежурное напряжение" 5 и 3,3 Вольт.
От него работают всякие часы-будильники, сетевая карта (wake-on-lan), иногда даже usb, если включено пробуждение по клавиатуре или мышке.
Подробнее здесь:
https://paginas.fe.up.pt/~asousa/pc-info/atxps09_a...
там и про выключение есть.