Для информации, вдруг кому-то понадобится:
Входить локально под "/ as sysdba" могут члены группы dba(unix) и ora_dba (win при использовании sqlnet.authentication_services=(NTS) в sqlnet.ora.
Ваша проблемма, возможно в регистрозависимости пароля параметр sec_case_sensitive_logon, то есть софт скорее всего не может обратится к ораклу с паролем заданым не заглавными символами. На счет перевода nls_lang в 866 лучше консоль переведите в cp1251.
mode con: cp select=1251
Шрифт cmd должен быть Truetype.