Пароль по умолчанию пустой.
Возможно, вы неправильно набрали команду. Скопируйте именно эту: mysql -u root -p. На запрос пароля надо просто нажать Enter.
Попробуйте запустить mysql_secure_installation.
Если все равно не пускает - поищите пароль в логе: sudo grep 'temporary password' /var/log/mysqld.log.
Если и этот вариант не подошел - возможно, устанавливаете из какого-то левого репозитория. Удалите sudo apt-get purge mysql*, выключите левые репозитории и установите заново sudo apt-get install mysql-server.