grub это загрузчик.
Вы его просто не обновили в загрузочной области диска. Ничего страшного, по идее, не произошло. Да есть вероятность, что у вас не сможет загрузиться сервер, но на практике такое случается не часто.
Вот отличная статья по загрузчику с форума
посмотрите на каком диске у вас boot раздел и / (корневой раздел)
Скорее всего загрузчик именно на нём.
Ну и в биос можно глянуть - с какого диска идёт загрузка.