Обычно, когда boot делают отдельным разделом, в качестве файловой системы используют ext2. При этом EFI раздел должен быть в fat32 и для его монтировки создается папка /boot/efi, где этот самый efi и будет искать grub (который тоже должен быть с поддержкой efi, т.е. grub-efi). Скорее всего в настройках разбиения диска нужный тип файловой системы определяется исходя из точки монтирования (как swap раздел).
