Смотрите в сторону
debos и его аналогов (
например). Еще вот есть
yoctoproject - в мане написано, что умеет в x86. А еще вот
тут неплохой мануал есть и тоже с тулзами. Я собирал кастомный образ для малинки - ничего принципиально сложного нет там, по отдельному ману для неё, но вот без этих тулз.