RewriteRule ^$ _engine.html?index [QSA,L,S=3]
RewriteRule ^(.*)/$ _engine.html?$1/index [QSA,L,S=2]
RewriteCond %{REQUEST_FILENAME} (([^\/]+\/)*[^.]+)\.shtml
RewriteCond %1.html !-f
RewriteRule ^ /_engine.html?404 [QSA,L,S,E=VAR1:er]
RewriteRule ^(.*)\.shtml$ _engine.html?$1 [QSA,L,env=VAR1:ok]
Однако мне всё ещё интересен оригинальный вопрос топика, вернее его часть: "почему при отсутствии каталога не срабатывает RewriteCond %{REQUEST_FILENAME} (([^\/]+\/)*[^.]+)\.html ?".