Не уходит нагрузка после перезапуска mysql, почему?

Question

[ksvdon]

Я нагружал MySQL при помощи mysqlslap:

mysqlslap --silent --host=localhost --user=myuser --password=qwerty --concurrency=1000 --iterations=1 --create-schema=superb1 --auto-generate-sql --auto-generate-sql-load-type=write --number-char-cols=50 --number-int-cols=300

получаю хорошую нагрузку. Но потом пошли вылеты типа:

mysqlslap: Cannot run query SELECT intcol1,intcol2,intcol3,intcol4....intcol299,intcol300,charcol1,charcol2,charcol3,charcol4,charcol5...charcol49,charcol50 FROM t1 ERROR : Lost connection to MySQL server during query
mysqlslap: Error when storing result: 2013 Lost connection to MySQL server during query

ещё одна попытка

mysqlslap: Cannot run query SELECT intcol1,intcol2,intcol3...,intcol299,intcol300,charcol1,charcol2,charcol3...,charcol50 FROM t1 ERROR : MySQL server has gone away

короче. Смотрю через ps -aux | grep mysql и вижу, что mysql выжирает 2.5 по cpu и 90 по оперативе

mysql      22687  2.5 90.7 3129044 915728 pts/1  Sl   19:04   0:04 /usr/sbin/mysqld --basedir=/usr --datadir=/var/lib/mysql --plugin-dir=/usr/lib64/mysql/plugin --user=mysql --log-error=/var/log/mysqld.log --pid-file=/var/lib/mysql/localhost.localdomain.pid --socket=/var/lib/mysql/mysql.sock

выключаю mysql: service mysql stop
через top видно, что ОЗУ освободилась по сравнению с тем, что было...
Включаю опять mysql: service mysql start
теперь через top видно, что свободно не более 10% ОЗУ. (ну т.е. опять mysql выжирает 90%)
как такое может быть? Я же его перезагрузил? Пробовал просто убивать процесс с mysql потом запускать... Даже просто напросто делал reboot... Что делать? Как убить нагрузку? И что дает такую нагрузку неубиваемую? Смотрел через lsof:

[root@localhost LOAD]# lsof -p 22687
COMMAND   PID  USER   FD   TYPE             DEVICE SIZE/OFF    NODE NAME
mysqld  22687 mysql  cwd    DIR              253,0     4096 1574409 /var/lib/mysql
mysqld  22687 mysql  rtd    DIR              253,0     4096       2 /
mysqld  22687 mysql  txt    REG              253,0 13760152  406200 /usr/sbin/mysqld
mysqld  22687 mysql  mem    REG              253,0    65928  131456 /lib64/libnss_files-2.12.so
mysqld  22687 mysql  mem    REG              253,0    79008  399003 /usr/lib64/liblve.so.0.9.0
mysqld  22687 mysql  mem    REG              253,0   135896  131128 /lib64/libtinfo.so.5.7
mysqld  22687 mysql  mem    REG              253,0   140192  131124 /lib64/libncurses.so.5.7
mysqld  22687 mysql  mem    REG              253,0  1066448  131159 /lib64/libglib-2.0.so.0.2600.1
mysqld  22687 mysql  mem    REG              253,0    32072  406306 /usr/lib64/libgovernor.so.1.0
mysqld  22687 mysql  mem    REG              253,0   469528  131077 /lib64/libfreebl3.so
mysqld  22687 mysql  mem    REG              253,0  1921216  131084 /lib64/libc-2.12.so
mysqld  22687 mysql  mem    REG              253,0    90880  131079 /lib64/libgcc_s-4.4.7-20120601.so.1
mysqld  22687 mysql  mem    REG              253,0   596264  131114 /lib64/libm-2.12.so
mysqld  22687 mysql  mem    REG              253,0   987096  394343 /usr/lib64/libstdc++.so.6.0.13
mysqld  22687 mysql  mem    REG              253,0    19536  131110 /lib64/libdl-2.12.so
mysqld  22687 mysql  mem    REG              253,0    40400  131088 /lib64/libcrypt-2.12.so
mysqld  22687 mysql  mem    REG              253,0    43832  131462 /lib64/librt-2.12.so
mysqld  22687 mysql  mem    REG              253,0     3944  131420 /lib64/libaio.so.1.0.1
mysqld  22687 mysql  mem    REG              253,0   142640  131108 /lib64/libpthread-2.12.so
mysqld  22687 mysql  mem    REG              253,0   154520  131090 /lib64/ld-2.12.so
mysqld  22687 mysql    0r   CHR                1,3      0t0    4158 /dev/null
mysqld  22687 mysql    1w   REG              253,0   141783 1573706 /var/log/mysqld.log
mysqld  22687 mysql    2w   REG              253,0   141783 1573706 /var/log/mysqld.log
mysqld  22687 mysql    3u  unix 0xffff880035ba4e00      0t0   51185 socket
mysqld  22687 mysql    4uW  REG              253,0 79691776 1574413 /var/lib/mysql/ibdata1
mysqld  22687 mysql    5u   REG              253,0        0 1048581  (deleted)/tmp/ibu2yAkR
mysqld  22687 mysql    6u   REG              253,0        0 1048583  (deleted)/tmp/ibcXg0dV
mysqld  22687 mysql    7w  FIFO                0,8      0t0   19750 pipe
mysqld  22687 mysql    8u   REG              253,0        0 1048584  (deleted)/tmp/ibwjnq7Y
mysqld  22687 mysql    9u   REG              253,0        0 1054053  (deleted)/tmp/ibCD9xx7
mysqld  22687 mysql   10uW  REG              253,0 50331648 1574414 /var/lib/mysql/ib_logfile0
mysqld  22687 mysql   11uW  REG              253,0 50331648 1574415 /var/lib/mysql/ib_logfile1
mysqld  22687 mysql   12uW  REG              253,0    98304 1574483 /var/lib/mysql/mysql/innodb_table_stats.ibd
mysqld  22687 mysql   13uW  REG              253,0    98304 1574485 /var/lib/mysql/mysql/innodb_index_stats.ibd
mysqld  22687 mysql   14uW  REG              253,0  9437184 1574626 /var/lib/mysql/superb1/t1.ibd
mysqld  22687 mysql   15u   REG              253,0        0 1054054  (deleted)/tmp/ibpN5Q0e
mysqld  22687 mysql   16u  IPv6              51235      0t0     TCP *:mysql (LISTEN)
mysqld  22687 mysql   17u  unix 0xffff880035ba4ac0      0t0   51236 /var/lib/mysql/mysql.sock
mysqld  22687 mysql   18u   REG              253,0     2048 1574477 /var/lib/mysql/mysql/event.MYI
mysqld  22687 mysql   19u   REG              253,0        0 1574478 /var/lib/mysql/mysql/event.MYD
mysqld  22687 mysql   20u  unix 0xffff88003320ab40      0t0   51660 /var/lib/mysql/mysql.sock

Answer 1

[Alex Chistyakov]

А зачем Вы убиваете MySQL? Для сервера базы данных нормально потреблять большую часть памяти на машине (MySQL не использует файловый кэш операционной системы, у него свои буфера). Кстати, возможно, с настройки размеров этих буферов и стоит начать? А также с тюнинга других параметров выбранного движка хранения (надеюсь, у Вас InnoDB?).

Comments

[ksvdon]

Отключал MySQL т.к. думал, что нужно выгрузить какие-нибудь процессы после того как mysql выдал ошибку во время нагрузки. Думал это поможет. Я вижу, что после того как я делаю нагрузку - потребление ОЗУ растет (оно то хорошо, но когда нагрузочный скрипт отрабатывает - потребление особо не падает. Только по cpu легче становится, а по ОЗУ нет). И это как-то паршиво сказывается на всем. На некоторых машинах где нагрузка была слабее там сейчас mysql выедает порядка 40% по ОЗУ, а на данной машине 90%. Это сказывается на работоспособности. MySQL на этой машине только для тестирования. Реально он особо потреблять и не должен как я считаю... Просто когда загрузка перевалила за 80% я решил, что надо как-то чистить то, что дает такую нагрузку. Я думаю после нагрузки просто не подчищаются какие-то таблицы или ещё что. Т.к. завершается всё некорректно. Я крутил настройку что бы получить хорошую нагрузку. Урезал кэш, увеличил например max_connections т.к. в запросе --concurrency=1000 и с параметрами по умолчанию были проблемы.. Вот наверное "донастраивался"...

[Alex Chistyakov]

MySQL не отдает обратно взятую у системы память - это нормальное поведение. Если хотите ограничить потребление памяти - посмотрите значения key_buffer_size и innodb_buffer_pool_size в конфиге. key_buffer_size - это для MyISAM, innodb_buffer_pool_size - для InnoDB, в сумме они определяют, сколько MySQL может взять максимум памяти под буфера.

[ksvdon]

Т.е. после того как он забрал память - он её можно сказать зарезервировал для себя? И в случае если я нагружаю mysql - он использует ту же ту память, которую забрал (или если нужно - берет ещё)? Она при этом не "теряется" он её использует когда будет очередная загрузка?

[Alex Chistyakov]

@ksvdon Да, совершенно верно, он ее резервирует под эти буфера. Он кэширует в них части индексов (а для движка InnoDB - и части таблиц). Поэтому лучше отдавать под буфера до 80-90% всей памяти, которая есть на машине. Память, конечно, переиспользуется и не теряется.

[ksvdon]

Спасибо!

[Вячеслав Успенский]

использовать бездумно Innodb Это плохой совет

[Alex Chistyakov]

Про бездумное использование InnoDB я бы хотел услышать больше - особенно, с учетом того, что я эксплуатировал десятки баз на движке InnoDB и даже написал для личных нужд небольшой скрипт для автоматической конвертации из MyISAM.

Answer 2

[Вячеслав Успенский]

Подключаете к MySQL
mysql -u USER -pPASS -P PORT -h HOST
и затем спрашиваете его, чем же он там занят
show processlist