openssl по моему не подойдет так как по факту ничего шифроваться не будетНасколько я понял вашу схему - вместо пароля или в дополнению к паролю использовать файл, то это получается тот же пароль по сути, поэтому передавать по открытому каналу его не следует, надо сначала установить защищенное соединение, поэтому таки openssl очень даже подойдет.
по файлу(сертификату например, для админов) + пароль свой после шифрованияSSL+секъюрный URL для админов с логином и паролем: проверка по REQUEST_URI и/или параметры какие-нибудь. Этого будет достаточно, чтобы никто кроме админов уже не смог войти, т.к. получается двойной "ключ": URL+пароль и всё внутри SSL.