На php можно сделать так
<?php
for ($i=1; $i < 4000; $i++) {
$file = file_get_contents("html/{$i}.html"); //html папка {$i} название файла
$nextfile = str_replace('qwerty', $i, $file); //заменяем qwerty на $i тоесть название файла
file_put_contents("html/{$i}.html", $nextfile); //сохраняем
}
?>