Для того чтобы система загружалась и со второго диска необходимо скопировать на него начальный загрузчик из MBR.
MBR (Master Boot Record) - это первые 512 байт устройства из которых 446 байт это начальный загрузчик (который необходимо скопировать), а остальное - таблица разделов.
# Копирование начального загрузчика
dd if=/dev/sda of=/dev/sdb bs=446 count=1
Что касается размещения /boot и swap, на мой взгляд имеет смысл размещать их на mdraid.
swap для того чтобы система не "падала" при выходе диска из строя, а /boot для автоматического поддержания его в актуальном состоянии на втором диске. Не могу придумать весомых доводов в пользу или против размещения их в LVM.