Посмотрите документацию, особенно 6 пункт:
https://docs.mongodb.com/manual/tutorial/enable-au...
Обратите внимание, что юзера admin вы создаете в базе admin c ролью userAdminAnyDatabase, то есть он является администратором всех баз данных на данном сервере. Ключ "--authenticationDatabase" указывает на что, что вы авторизуетесь через базу, в которой создан пользователь. Когда вы пытаетесь исполнить
mongo 127.0.0.1 --port 27017 -u "admin" --authenticationDatabase "mydb"
mongo не может найти указанного пользвателя в бд mydb.