pga_hba.conf можете редактировать как и чем угодно, это не имеет отношения к базе (ну разве вы только руками переопределили hba_file).
А файл правил авторизации pg_hba.conf необходимо редактировать текстовым редактором, желательно каким-то адекватным который не будет заниматься самодеятельностью с правами, именами, владельцами и содержимым файла. После внесения правок в pg_hba необходимо скомандовать reload базе.
select pg_reload_conf();
Запросом от суперпользователя предпочтительнее, т.к. не зависит от платформы.
от клиента запрашивается пароль дважды хешированный алгоритмом MD5
Единожды хэшированный согласно способу аутентификации md5 протокола libpq.
Ну и конечно надо понимать, что меняется и где именно. pg_hba обрабатывается по порядке сверху вниз и правило вполне можно указать даже банально не там где нужно.
Плюс при reload смотрите в лог, сообщения об ошибке формата там будут.