Для начала, что за архив? ZIP? Или RAR? RAR питон из коробки не умеет.
Далее, самораспаковывающийся архив - это EXE, к которому тупо дописан архив. Если знаешь, как выглядит заголовок архива (в частности
сигнатуру), то можно просканировать файл, найти сигнатуру, отмотать указатель файла на неё, и уже тогда отдавать файл ZIP-объекту.