htaccess: ErrorDocument takes two arguments, Change responses for HTTP errors
Если строка заключена в двойные кавычки, то внутри этой строки их нужно экранировать обратным слешем.
ErrorDocument 403 " 'a' \"b\" "
Со строками в одинарных кавычках всё аналогично.
ErrorDocument 403 ' \'a\' "b" '
ErrorDocument 404 /page404.php мне не подходит.
Если какие-то
RewriteRule
как-то конфликтуют с этим правилом, то можно проверять с каким кодом было перенаправление и для 4xx 5xx делать исключение пуская в обход основных правил.
RewriteCond %{ENV:REDIRECT_STATUS} ^[45]\d\d
RewriteRule ^ - [L]
Ставить выше отстальных RewriteRule.