Известно где они начинаются, но не известно где заканчиваются.
Вполне логично, что заканчиваются они там, где начинается следующий.
Ищите сигнатуру начала elf файла, и с этого места перебирайте ищите совпадения с начальными сигнатурами остальных файлов.