/etc/default/useradd
....
# Default values for useradd(8)
#
# The SHELL variable specifies the default login shell on your
# system.
# Similar to DHSELL in adduser. However, we use "sh" here because
# useradd is a low level utility and should be as general
# as possible
SHELL=/bin/sh
...
Во-первых, не забудьте сделать chmod 600 на id_rsa и id_rsa.pub (и chmod 700 на ~/.ssh)
Во-вторых, ssh -vvv user@hostname выдаст вам в консоль какие ключи ssh пытается использовать, и почему не использует.