В современных *nix системах давно уже существует page cache и при достаточном количестве оперативной памяти все часто запрашиваемые файлы будут им закэшированы. Незачем городить огород с shmfs/tmpfs, может получиться только хуже.
Особенно когда документация скудна [http://vkurseweba.ru/files/nginx-doc.pdf] Документация, как ни странно, все-таки находится на официальном сайте nginx.org
proxy_buffering off не выключит буферизацию от клиента к серверу. Если вас устроит «однонаправленный» socket.io (аля http polling), то, вероятно, все будет работать.
«Либо придётся что-нибудь править в исходниках nginx?»
Если бы требуемый объем работ не был бы достаточно велик, то это было бы уже реализовано.
Делая post_action вы фактически удваиваете nginx-у работу. Каждый запрос становится эквивалентен двум запросам. Плюс, во время работы post_action соединение с клиентом будет оставаться заблокированным, т. е. если клиент послал еще один запрос, то он тупо будет ждать, пока завершится обработка post_action.
А учитывая то, как он реализован, существует очень большая вероятность сломать его совсем в очередной версии, если вообще он ещё работает… и нет ли там серьезных багов — неизвестно.