Это не кодировка. Это хеш. Вам нужно записывать в базу при регистрации именно хеш пароля, а не сам пароль. Потом соответственно при попытке авторизации проверять хеш пароля. Сам пароль у вас вообще нигде храниться не должен.
ssass70, $password = md5($_POST['password']);
Можно даже так, мд5 делает хеш строки всегда длиной 32 символа, в таком виде ни xss ни sql инъекция невозможны...
Незнаю насчет trim... можно оставить, мало ли, кто-то пароль с пробелом на конце сделал или в начале... и вы обработали при создании пароля этой функцией...