Не встречал таких алгоритмов, и вроде бы их нет.
Вариант единственный — два блока данных. Один — одним ключиком, второй — другим. ПО должно само определить начало. Так работает и TrueCrypt.
Проще, когда расшифровывающий предполагает наличие шума в потоке, и границы потока не явно определены — тогда ему не будет очевидно, что расшифровывается не с начала.
В случае с банальным вариантом, когда файл на пару гиг расшифровывается в пару килобайт, да еще и с конца, очевидно что что-то не так