XEN+OCFS2+Heartbeat+iscsi+csync2
XEN - гипервизор с поддержкой живой миграции и паравиртуализации
Heartbeat - система управления кластером, контроля за использованием ресурсов, назначения заданий
csync2 - обеспечение синхронности конфигурации.
OCFS2 - распределенная файловая система с поддержкой моментальных снимков файлов. В вашем комплекте железа к сожалению отсутствует оборудование для SAN, поэтому придется городить конструкцию из DRBD (позволяет превратить жесткие диски на паре серверов в один синхронный) и ocfs2
Второй вариант - LustreFS, в ней с гетерогенностью проще.
Весь этот комплект есть в openSUSE и настраивается неспешными тычками мышкой в веб-интерфейсе под названием HAWK. В 13 версии наглухо поломан virt-manager, поэтому рекомендую 12 версию.
И да, вы ничего не написали о сетевом железе, которое у вас есть.