Как понять на что расходуется память в linux?

Question

[Искатель]

Есть процесс, который по данным top потребляет 13,5% оперативной памяти. Однако по данным free используется памяти - 67,2%. Как понять куда ушла остальная память?

Пытался исследовать проблему при помощи таких инструментов как /proc/meminfo, /proc/PID/status, free, top, smem.
Что мы имеем: занятую процессами память считаю по данным из /proc/meminfo по формуле MemTotal-Free-Cached-Buffers-Slab, получается та же величина, что показывает free в строке used, где-то 67,2% в отношении к MemTotal, при этом эта величина увеличивается со временем, память "течёт", но я не могу понять где именно течёт: в каком-то процессе или в ядре.
Если исследовать процессы, то вот top мне показывает 3 столбца: VIRT, RSS и SHR, память каждого процесса состоит из RSS и SHR, но поскольку SHR - это разделяемая память, используемая одновременно несколькими процессами, то суммировать эти столбцы нельзя. Тогда я вместо top использовал smem, который вычисляет такую величину как PSS - пропорциональная память, которую уже можно суммировать, также smem умеет вычислять сумму всех процессов в процентах, так вот он мне показал - 16,2% в то время как free говорит, что занято 67,2, вопрос - куда ушли оставшиеся 51%?

Comments

[Anton Kuzmichev]

Загуглите "linux дисковый кэш".

[Искатель]

Anton Kuzmichev, кэш это Cached? Тогда это не то.

[rPman]

можно поковыряться в /proc/(pid)/smaps если я верно понимаю, можно перебрать каждый регион памяти который под что выделен, там подписано - под загружаемый модуль или кеш кучу стек и прочее но не уверен что там тоже будет корректные результаты

[Antonio Solo]

а приложить скриншоты не позволяет нехватка памяти ?

[Everything_is_not_so_bad]

Я бы порекомендовал установить atop. С ее помощью можно посмотреть на историю процессов и потребления памяти.

Answer 1

[unseriously]

не благодари:

ps axo rss,comm,pid | awk '{ proc_list[$2] += $1; } END { for (proc in proc_list) { printf("%d\t%s\n", proc_list[proc],proc); }}' | sort -n | tail -n 10 | sort -rn | awk '{$1/=1024;printf "%.0fMB\t",$1}{print $2}'

Comments

[Александр Семененко]

Прикольная команда)

Answer 2

[deepblack]

https://www.linuxatemyram.com/

spoiler

Comments

[Искатель]

я в курсе, тут другая ситуация

Answer 3

[Vitaly Karasik]

Покажите, пож-ста

- free -m
- top -b -o +%MEM | head -n 25

Comments

[Искатель]

$ free -m
              total        used        free      shared  buff/cache   available
Mem:          32164       22984         240         362        8938        8358
Swap:          4050          15        4035
$ top -b -o +%MEM | head -n 25
top - 14:34:30 up 109 days,  4:18,  2 users,  load average: 12.31, 13.12, 13.33
Tasks: 346 total,   1 running, 345 sleeping,   0 stopped,   0 zombie
%Cpu(s): 34.7 us,  9.2 sy,  0.0 ni, 49.4 id,  3.5 wa,  0.0 hi,  3.2 si,  0.0 st
KiB Mem : 32936080 total,   217976 free, 23488012 used,  9230092 buff/cache
KiB Swap:  4148200 total,  4132076 free,    16124 used.  8608416 avail Mem

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
55748 root      20   0 10.587g 4.142g   2088 S  1089 13.2 902215:22 ######
20557 netdata   20   0 1132232 940108   2288 S   0.0  2.9  10:19.78 netdata
  907 root      20   0  181300 102980 102764 S   0.0  0.3 877:33.63 systemd-journal
55972 root      20   0 5278616  32356   2236 S   0.0  0.1 120:24.22 ######-thumb
20588 netdata   20   0  105312  18996   3020 S   0.0  0.1  22:23.85 python.d.plugin
 2089 root      20   0  304460  17156  11084 S   0.0  0.1   3:40.65 apache2
33372 www-data  20   0  304484   6944    864 S   0.0  0.0   0:00.00 apache2
33373 www-data  20   0  304484   6944    864 S   0.0  0.0   0:00.00 apache2
33375 www-data  20   0  304484   6944    864 S   0.0  0.0   0:00.00 apache2
33376 www-data  20   0  304484   6944    864 S   0.0  0.0   0:00.00 apache2
33377 www-data  20   0  304484   6944    864 S   0.0  0.0   0:00.00 apache2
59503 netdata   20   0   18160   4832   1700 S   0.0  0.0   3:14.73 apps.plugin
    1 root      20   0  204796   4496   3040 S   0.0  0.0 700:26.02 systemd
14924 iskatel   20   0   21036   4484   2820 S   0.0  0.0   0:00.65 bash
32077 iskatel   20   0   64980   3880   2876 S   0.0  0.0   3:57.64 systemd
 6515 iskatel   20   0   45036   3644   2912 R  11.1  0.0   0:00.03 top
 7520 iskatel   20   0   20952   3528   1952 S   0.0  0.0   0:00.16 bash
 1443 netdata   20   0   18212   3012   2532 S   0.0  0.0   0:00.69 bash

[Vitaly Karasik]

Согласен, выглядит странно, я не могу объяснить что происходит.

[Vitsliputsli]

Искатель,

я не могу понять где именно течёт: в каком-то процессе или в ядре.

Очевидно, что память "течет" в процессе ######, который сожрал 11Гб, хотя фактически использует только 4Гб. Т.к. swap не используется, значит вся эта память выделена в ОЗУ, выделена, но не используется.

[Everything_is_not_so_bad]

Vitsliputsli,

######, который сожрал 11Гб

не сожрал, а лишь затребовал у ОС.
Течет ли - неизвестно. Надо смотреть на динамику потребления памяти.

[Vitsliputsli]

Роман Мирр, сожрал, сожрал, не затребовал у ОС, а ОС ему уже выделила эту память. Автор писал про динамику, что память именно "течет".