рекомендую hex editor neo
там есть шаблоны популярных форматов, можно понять какой бит за что отвечает.
А так ничего не остается как читать подробную документацию.
По зипу (хотя может с rar путаю) если мне память не изменяет, вначале краткое описание файлов, в конце их содержимое. (где название упоминается не помню, может и в конце)
Причем можно удалить в начале краткое описание конкретного файла (поправив кучу crc), а в конце оставить, получится таким образом скрытый файл.
Готовые библиотеки почему не используете?