объединить можно несколькими способами.
raid. Удобнее всего на этапе установки системы.
lvm. Тоже удобнее на этапе установки системы.
unionfs. Можно на лету.
В принципе и рейд и лвм можно собрать на лету.
Для рейда - дублируем на второй диск таблицу разделов с первого (man sfdisk)
потом создаем raid0 из раздела на втором диске, с отсуствующим вторым диском. Копируем данные с первого диска на второй. Правим загрузчик - указываем, что рут теперь на рейде. Перегружаемся. Добавляем в рейд первый диск, дожидаемся синхронизации. Перепроверяем конфиг загрузчика, перегружаемся для проверки.
Операция не сильно сложная на самом деле, но требует внимательности - иначе можете получить негрузящуюся систему. В таком случае livecd вас спасет ;)
лвм собирается по такому же принципу.
Есть еще вариант - не переносить рут системы на рейд или лвм, а перенести туда только home, или где там у вас файлы лежат. Это попроще.