Влияет ли кол-во файлов в директории на скорость записи (создания новых файлов) в ext4?

Question

[Сергей Пуговкин]

Влияет ли кол-во файлов в директории на скорость записи (создания новых файлов) в ext4?
Листинг не интересует.

Comments

[Сергей Пуговкин]

Есть подозрение, что влияет, т.к. каталог как-то же индексирует своё содержимое?
Думаю, стоит разбивать на подкаталоги. "На всякий пожарный".

[be52]

если и влияет то не со стороны операционной системы и файловой системы а со стороны конкретного софта который пишет, если он перед записью что то делает с этим каталогом, читает весь его листинг или типа того то конечно будет сильно влиять

Answer 1

[Saboteur]

Влияет, но смотря сколько файлов. Индексируются хеши файлов, поэтому довольно быстро можно найти файл.

Разница между 100 и 1000 файлов будет минимальна (менее процента)
Разница между 100 и 1.000.000 файлов будет немного заметна, но только пока блоки содержащие директорию не закешируются в памяти.

По сравнению с ext3, ext4 ОЧЕНЬ сильно оптимизировала работу с множеством файлов.

Ниже edo1h привел пример теста, но он некорректно использовал внешнюю команду, получив основную нагрузку на процессор, а не на диск. Мой комментарий вышел слишком длинный поэтому решил его в ответ добавить:

spoiler

Давайте померяем еще раз вашим скриптом, а потом более правильным:
$ test() { for A in `seq 1 10000`; do touch $RANDOM.$RANDOM.$A; done }

$ time test
real 0m8.406s
user 0m5.939s
sys 0m2.548s
$ time test
real 0m7.943s
user 0m5.699s
sys 0m2.333s
$ time test
real 0m7.929s
user 0m5.647s
sys 0m2.369s

Как мы видим, ничего особо не видно. Непонятно быстрее или медленнее. Вдобавок user time занимает основную часть времени и видимо сильно влияет на результат.

Перепишем скрипт:
$ test1() { for A in `seq 1 10000`; do echo "" > $RANDOM.$RANDOM.$A; done }
Почистим файлы и попробуем заново
$ rm -rf *
$ time test1
real 0m0.310s
user 0m0.111s
sys 0m0.196s

Сразу остановимся и увидим, что теперь у нас основное время это именно sys, а не user тайм, то есть уже чаще скрипт ждет пока выполнятся дисковые операции, а не дисковые операции ждут пока им дадут команду что-то делать. Повторим команду несколько раз:

$ time test1
real 0m0.331s
user 0m0.101s
sys 0m0.229s

$ time test1
real 0m0.331s
user 0m0.129s
sys 0m0.200s

$ time test1
real 0m0.402s
user 0m0.118s
sys 0m0.229s

$ time test1
real 0m0.324s
user 0m0.087s
sys 0m0.236s

$ time test1
real 0m0.382s
user 0m0.129s
sys 0m0.253s

$ time test1
real 0m0.387s
user 0m0.102s
sys 0m0.283s

$ time test1
real 0m0.421s
user 0m0.115s
sys 0m0.299s

$ time test1
real 0m0.465s
user 0m0.115s
sys 0m0.312s

$ time test1
real 0m0.465s
user 0m0.139s
sys 0m0.324s

$ time test1
real 0m0.467s
user 0m0.139s
sys 0m0.327s

$ time test1
real 0m0.553s
user 0m0.156s
sys 0m0.365s

$ time test1
real 0m0.560s
user 0m0.194s
sys 0m0.364s

Итоги: видно что кеширование где-то работает, но с каждыми новыми файлами тенденция к замедлению есть, и она всего лишь через несколько десятков тысяч файлов увеличилась почти в полтора раза.
То есть задолго до миллиона я получу замедление в несколько раз. Но это на моей виртуалке. На каждом оборудовании надо тестировать индивидуально.

Answer 2

[edo1h]

а взять и проверить сложно?

root@testserver:/test# test() { for A in `seq 1 10000`;  do touch $RANDOM.$RANDOM.$A; done }
root@testserver:/test# time test

real    0m5.772s
user    0m4.419s
sys     0m1.684s
root@testserver:/test# for A in `seq 1 100`; do test ; done
root@testserver:/test# time test

real    0m5.898s
user    0m4.495s
sys     0m1.817s

после записи в каталог миллиона файлов скорость создания новых файлов осталась той же

Comments

[Saboteur]

ну как той же, если увеличилась на целых 7%. Вдобавок тест не покрывает все варианты.

[edo1h]

Saboteur, мой калькулятор показывает 2%. И на самом деле разброс между последовательными запусками куда больше, я не стал приводить чтобы не захламлять (проверял на виртуалке на достаточно загруженном хосте)

[Saboteur]

edo1h, вы видимо смотрите real time, а правильно смотреть sys time: 1.684s против 1.817s.

Потому что именно это время уходит на создание файлов (драйвер файловой системы и запись на диск выполняется ядром).
А юзер спейс - это ваш баш скрипт с вычислением рандома и миллионы форков команды touch