Если шум в основном идёт от блока питания, то, возможно, стоит рассмотреть замену на более тихую модель. Есть БП с пассивным охлаждением (например, Seasonic или be quiet!), которые вообще не имеют вентилятора, либо модели с гибридным охлаждением, где вентилятор включается только при определённой нагрузке). Судя по тому, что нагрузки у тебя минимальные, это может быть оптимальным вариантом. Ещё можно попробовать заменить вентилятор в текущем БП на более тихий, например, Noctua, если ты готов повозиться. Это на самом деле несложно.
Кроме того, шум могут усиливать вибрации корпуса. Я бы попробовала установить антивибрационные прокладки на вентиляторы и блок питания, а также поставить корпус на резиновые ножки или коврик. И не забывай про настройку оборотов вентиляторов в BIOS. Если температура 30–40°C, то можно спокойно снизить обороты, особенно у корпусного вентилятора. Если он шумит сам по себе, есть смысл заменить его на что-то ультратихое