Файл .htaccess должен находиться на каталоге где у тя index.php (единственный вход на сайт ). На втором примере у тя пути не правильно написано (например
ErrorDocument 404 /www/error/404.php 1
ErrorDocument 404 /www/404.php )правильный будет вот так (
ErrorDocument 404 /error/404.php
ErrorDocument 404 /404.php
). И проверяй может где нибудь в каталогах сайта еще ты создал htaccess и там оформил ошибка 404 если так то удаляй эти строки из htaccess.Если это не поможет значить надо смотреть конфигурационный файл своего сервера,может сервер запрещает создать 404 ю