VT100

Скорее всего - подойдёт.
Фото заменяемого конденсатора и part number предлагаемого на замену - могли-бы облегчить принятие решения.

Сдаётся мне, что надо проверить подключение третьего контакта разъёма, используемого для переключения "батарея-сеть":
https://static.chipdip.ru/lib/507/DOC001507919.pdf

Разрядка входного конденсатора при отключении питания.

Недостаточно вводных, желателен ток потребления или мощность реле и мощность трансформатора (должна быть больше мощности нагрузки).
Конденсатор - обязателен, как разъяснил pfg21.
Из имеющихся данных, пока следует только необходимость гасящего резистора или стабилизатора, т.к. напряжение на выходе [двухполупериодного] выпрямителя будет 6*√2-1,4 около 7 В. А перегрузка реле на 40 % - великовата.

• Электролитические конденсаторы сами по себе - пищать не могут. В крайнем случае - могут провоцировать писк.
  
• Пищит - сердечник дроссель-трансформатора (P.S. см. Магнитострикция). Почему-бы не забить на это, ведь без нагрузки он работать не будет?
  
• Если есть желание разобраться - придётся срисовывать схему с платы.
  

Еще заметил, что через раз, если втыкать в розетку, возникает так же еле слышный гул, но чуть-чуть погромче и потом через три секунды стихает

И это - тоже нормально. Зависит от разности фаз в момент отключения и нового подключения.

Диммер - простой, на симисторе и фазосдвигающей цепи? Без поднятия частоты коммутации, наверное, никак.
Может быть микроконтроллер прикрутить и делать коммутацию целых периодов (Брезенхем), но не уверен.

1. Параметрический поиск - www.mouser.com, www.digikey.com
2.

Купленные мной ранее транзисторы, IRF530N (от IOR) и BC337, не подошли. Они требуют большего напряжения для полного раскрытия.

Приведи схему. Вероятно - что-то в консерватории не так. Например - IRF530 включен истоковым повторителем.

Если речь идёт о таких токах, то лучше рассмотреть возможность применения импульсного стабилизатора. За счёт его большего КПД - будет меньше проблем с охлаждением.