Была проблема с клиентами Putty, Kitty. В клиенте Linux всё норм. Дело было не в пароле, как я думал сначала.
Был невнимателен, оказывается при вводе логина у меня курсор стоял не в нулевой позиции, почему-то программа сама ставила символы до курсора перед вводом.
Из-за этого получается, что я пытался зайти под другим логином.
Хотя, может быть я не правильно настроил ssh-клиент под windows.