Какой дистрибутив и почему не пользуетесь репозиторием?
А вообще, делается все довольно просто: копируете в /boot initramfs и vmlinuz, правите grub (если хотите иметь возможность загрузить старое ядро в случае чего) — и все. Правда, у вас не будет дерева заголовочных файлов, которые нужны, если захотите вдруг какой-нибудь модуль ядра собрать.