grossws

Можно попробовать сделать rewrite с regexp'ом, который вытащит значение параметров. А дальше использовать try_files.

Здесь wiki.nginx.org/Pitfalls есть описание этого паттерна.

На тему base64 — можно файлы хранить с именами сразу в base64, если к ним так обращаются.

Если протокол кастомный, то можно ещё взглянуть на Netty (Java). Но порог вхождения довольно высок. Но это если нужна нагрузка «до средней».