Почему RAM диск оказался не быстрее SSD?

Question

[beduin01]

Продолжаю ковыряться с SQLite и одиночной вставкой. Решил провести замеры. SSD оказался в 3.5 раза быстрее HDD. Решил создать RAM диск и разместить там SQLite. В итоге получил нулевой прирост производительности.

Вопрос -- как такое может быть? Как вообще запись на SSD устроена? Там система кешей есть?

Comments

[Thero]

Да, у каждого хорошего ssd есть dram кэш от 512 мегабайт до некольких гигабайт. Без него даже шустрая флэш память задыхается на высоких iops.

Answer 1

[АртемЪ]

Почему RAM диск оказался не быстрее SSD?

Непонятно что вы измеряли и как поэтому точно сказать нельзя.
Но кое-что сказать можно-

1. Скорость работы какой-то программы например БД зависит от диска, но эта зависимость нелинейная. Если вы поставите диск который в десять раз быстрее - скорость программы не обязательно возрастет в десять раз, она может увеличиться на 50% или на 5% или вообще не изменится.
   
   
2. Большинство операций ввода-вывода кэшируются операционной системой. Поэтому если у вас база небольшая и достаточно оперативной памяти - то вы будете работать не с диском а с оперативной памятью большую часть времени.
   
   
3. Если мы говорим про RAM диск - я не удивлюсь если скорость даже упадет по сравнению с SSD, такое вполне вероятно. Поэтому что во первых RAM диск отжирает приличную часть оперативки и ее может нехватить на эффективное кэширование, и во вторых RAM диск тасует информацию в ОЗУ с помощью процессора, прилично нагружая последний, поэтому в некоторых тяжелых задачах, когда идет нагрузка на процессор, использование RAM диска может вызвать приличную просадку производительности.
   

Если же вам интересно узнать что в вашем случае - давайте подробности.
Какая ОС. какой рамдиск, характеристики компьютера, объем БД, каким образом тестируете - тогда можно будет что-то сказать не гадая на кофейной гуще.

Comments

[Karpion]

2. При работе в режиме транзакций (а все СУБД заточены именно на него) - на отложенную запись накладываются очень сильные ограничения.

[АртемЪ]

Karpion, Не понял что вы хотели этим сказать? К чему эта фраза?

[edo1h]

В целом ответ отличный, но по третьему пункту не согласен. Зачем нам кэшировать, если данные и так в памяти? И повышенной нагрузке на процессор по сравнению с чтением с диска взяться неоткуда.

[АртемЪ]

edo1h, Смысл третьего пункта -
Без рамдиска - небольшая база целиком размещается в кэше и и вся работа идет фактически с базой в оперативке.
Если та же ситуация и рамдиск - база размещена в оперативке, но ваша программа доступа к ней не имеет - это область памяти другой программы (рамдиска) поэтому при запросе к БД идет обращение к процессу рамдиска, который извлекает запрошенные данные из памяти, и помещает в указанную область памяти.

Получается доступ к памяти замедляется как минимум в два раза, и плюсом ко всему нагрузка на процессор.
В общем доступ к рамдиску значительно дороже по ресурсам чем доступ к кэшу.

Поэтому база работающая на рамдиске может показывать худшие результаты чем база размещенная в кэше при определенных обстоятельствах.

Т.е я сравниваю не диск vs рамдиск, а кэш vs рамдиск.

[edo1h]

АртемЪ,

В общем доступ к рамдиску значительно дороже по ресурсам чем доступ к кэшу.

не подтверждаю, натравил fio на файл размером 100Мб, лежащем на ssd, получил 8k IOPS. скопировал файл на tmpfs, запустил опять fio, получил те же 8k IOPS.

[АртемЪ]

edo1h,

скопировал файл на tmpfs, запустил опять fio, получил те же 8k IOPS

Уверены что он не кэширован?

[Вадик Серебрянский]

АртемЪ, подскажите, а если у 10 винды 32 гб оперативки, файлы, скачанные с торрентов, запакованные в архивы, копированные недавно тоже хранятся в кеше озу?

[АртемЪ]

Вадик Серебрянский, Если с ними активно не работают - вряд ли.
А если работают, например идет активная раздача - какие-то куски возможно и хранятся.

[Karpion]

АртемЪ, Если мы только читаем из БД - то действительно, работать с кэшем лучше, чем RAM-FS. Особенно если кэш принадлежит не операционке (кэширует секторы диска), а СУБД (кэширует записи).

Но что будет, если мы пишем в БД? Сколько времени можно ждать, удерживая данные в памяти без записи их на диск?

[edo1h]

АртемЪ,

Уверены что он не кэширован?

https://unix.stackexchange.com/questions/500484/do...

Answer 2

[Dimonchik]

ниачем

PassMark выкладывай

и ваще sqlite3.connect(":memory:") без всякого диска

Comments

[beduin01]

Dr. Bacon, думаете что я принципиально не хочу нормальную БД использовать?

[beduin01]

> PassMark выкладывай

А что именно из него нужно? Что это даст?

[Dimonchik]

порядок цифр

Answer 3

[Saboteur]

На самом деле, скорость современного SSD может не уступать RAM, тут больше зависит от интерфейса и реализации рам драйва. Например полная поддержка спецификаций превращает RAM в довольно медленное устройство, а отключив его, можно значительно увеличить скорость.

Я довольно долго пользоваться рамдиском, перебрал разный софт, долго сидел на softperfect ram disk.
Но когда перешел на m.2 NVME ssd, понял что рамдиск не нужен.

Comments

[edo1h]

Вы ошибаетесь

$ dd if=/tmp/testfile of=/dev/null  bs=1G
10+0 records in
10+0 records out
10737418240 bytes (11 GB, 10 GiB) copied, 2.07775 s, 5.2 GB/s

Nvme-накопитель такую скорость не выдаст. По времени доступа разрыв ещё значительнее, 2мкс никакой nvme не даст

$ fio --name=randwrite --ioengine=libaio --rw=randread --bs=4k --runtime=20 --filename=/tmp/testfile
randwrite: (g=0): rw=randread, bs=4K-4K/4K-4K/4K-4K, ioengine=libaio, iodepth=1
fio-2.16
Starting 1 process
Jobs: 1 (f=0): [f(1)] [100.0% done] [2397MB/0KB/0KB /s] [614K/0/0 iops] [eta 00m:00s]
randwrite: (groupid=0, jobs=1): err= 0: pid=5750: Mon May  4 04:19:09 2020
  read : io=10240MB, bw=2105.3MB/s, iops=538947, runt=  4864msec
    slat (usec): min=0, max=97, avg= 1.17, stdev= 0.94
    clat (usec): min=0, max=62, avg= 0.16, stdev= 0.49
     lat (usec): min=0, max=97, avg= 1.33, stdev= 1.04
    clat percentiles (usec):
     |  1.00th=[    0],  5.00th=[    0], 10.00th=[    0], 20.00th=[    0],
     | 30.00th=[    0], 40.00th=[    0], 50.00th=[    0], 60.00th=[    0],
     | 70.00th=[    0], 80.00th=[    0], 90.00th=[    1], 95.00th=[    1],
     | 99.00th=[    1], 99.50th=[    1], 99.90th=[    8], 99.95th=[   10],
     | 99.99th=[   11]
    lat (usec) : 2=99.88%, 4=0.01%, 10=0.05%, 20=0.06%, 50=0.01%
    lat (usec) : 100=0.01%
  cpu          : usr=21.39%, sys=78.47%, ctx=51, majf=0, minf=8
  IO depths    : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     issued    : total=r=2621440/w=0/d=0, short=r=0/w=0/d=0, drop=r=0/w=0/d=0
     latency   : target=0, window=0, percentile=100.00%, depth=1

Run status group 0 (all jobs):
   READ: io=10240MB, aggrb=2105.3MB/s, minb=2105.3MB/s, maxb=2105.3MB/s, mint=4864msec, maxt=4864msec

[RA-Habr]

edo1h, интересная у вас метрика.
Даже зарегистрировался, чтобы спросить комментирующего о скорости ссд равной скорости памяти.
Где он собрался найти ссд со скоростями 40гб/с при 53 нс латентности. Или он сравнивает с ддр2?

[edo1h]

RA-Habr, ну всё-таки нечестно сравнивать накопитель с «голой» памятью, поэтому я и замерил скорость файловых операций с tmpfs.
а что интересного? вроде бы стандартное — скорость линейных операций и задержки на рандомных (можно считать IOPS'ы — это по сути же одно и то же).

[Saboteur]

попробуйте замерить не линейное чтение одного файла, а выполнить работу с множеством файлов. Операционная система накладывает свои задержки в виде работы с файловой системой, открытие/закрытие дескрипторов.
Я приводил свой пример на основании Windows7, но в линукс тоже будут задержки.
Например удаление/создание множества файлов в /tmp и с SSD могут быть сопоставимы по скорости.

Answer 4

[Drno]

Ну тут кроме самой базы вообщето еще влияет скорость проца, мож он упирается в него.
А вообще да- у нормальных ссд есть быстрый кэш

Comments

[beduin01]

А данные в начале в кэш пихаются и скопом пишутся?

[pfg21]

beduin01, если файл бд меньше кеша, то он полностью в нем лежит.
даже скорей всего не в кеше ссд а в ram-кеше операционки.
т.е. ты сравниваешь ram с ram.

Answer 5

[RA-Habr]

- потому что ваши файлы такого размера, что увидеть разницу в работе ссд и рам на глаз не представляется возможным.

Answer 6

[Danismind]

На самом деле мы забываем момент, что есть шина на материнской плате через которую все компоненты компьютера общаются между собой.
Между жестким диском с блинами у которых скорость вращения и твердотельным жестким диском который просто читает с микросхем памяти то разница есть.(Там накладные расходы)
А вот между ssd и ram тут исключительно потолок. Либо Материнку с более мощной шиной и память более быструю ставить. В старых компах со слабой шиной и памятью ssd может спокойно работать как ram.(тот же самый файл подкачки и убыстрять комп)

Answer 7

[wickated]

Потому что есть такая штука, зовётся иопсами. И их количество ограничено, и гоняются все эти иопсы через стандартные протоколы , которые изобрели давно и они устарели. Нвме же не просто так придумали. И данные в рамдиск гоняются через рам и процессор. И скорость рандом копирования рам-рам давно уже не растёт, а в некоторых случаях даже падает (привет ддр4 с её тайммнгами). Лучшее решение для скл - оптан, если конечно на него влезет база.

Answer 8

[Feliskms]

Потому что основная причина, почему SSD быстрее HDD в том, что у SSD очень малое время поиска. Когда база данных выполняет работу, HDD постоянно ищет записи, которые фрагментированы по всему диску и обращение к каждому фрагменту требует около 10-20 миллисекунд для поиска (в среднем пусть 0.015 секунд). А SSD делает поиск за 1 мс и менее, пусть 0.001 секунд. Допустим, и HDD, и SSD для выполнения запроса надо сделать 10 тысяч поисков данных. Тогда, HDD только на поиске фрагментов потеряет 10000*0.015=15 секунд. А SSD сделает ту же работу за 1 секунду и менее. RAM диск допустим ищет фрагмент за 0.000001 секунды, тогда 10000 поисков она отработает за 0.01 секунды. Вот и получается, что HDD тупо на поиске кластера на диске теряет 15 секунд, SSD 1 секунду и RAM 0.01 секунды. И если разница между 15 секунд и 1 секунда колоссальная, то разница между 1 секунды и 0.01 секунды значительно менее заметна. Если для выполнения запроса компьютеру нужно ещё потратить, скажем, 4 секунды на работу процессора для расчетов каких-то, получится итоговое время - HDD 19 секунд, SSD 5 секунд, RAM 4 секунды...