Redis в Docker сам вычищает почему-то все данные. Что делать?

Question

[user9823]

Всем привет.
Столкнулся со следующей проблемой.
Делаю приложение которое записывает данные и потом читает их из redis
Сам redis запущен в docker контейнере.
При запросе отслеживаю запись внутри контейнера

127.0.0.1:6379> keys *
1) "-C7pZ9Dsy3:IvlhTR68"

проверяю TTL

127.0.0.1:6379> ttl -C7pZ9Dsy3:IvlhTR68
(integer) 42662

т.е. всё как бы работает хорошо, ключ должен будет закончится через 42662 сек. (около 12 часов)
Потом чтото происходит и редис чистый.
Никаких запросов к нему не отправляю, редис полностью чистый. Проверяю его.

127.0.0.1:6379> keys *
(empty array)

сервер запущен на Digital Ocean. Серверок слабый, 1 Гб озу
проверю память

# free -m
              total        used        free      shared  buff/cache   available
Mem:            981         700          68          14         212         114
Swap:          1023         555         468

в volume прокинут конф. файл (кусок из docker-compose)

redis:
    image: redis:6.0.1
    ports:
      - 6379:6379
    volumes:
      - ./redis/redis.conf:/usr/local/etc/redis/redis.conf
      - ./redis/volume/:/data
    networks:
      - symfony
    command: [ "redis-server"]

куда копать? что смотреть?
делаю docker-compose logs redis
последние строки такие

redis_1     | 1:S 26 Jan 2021 11:50:57.299 * MASTER <-> REPLICA sync started
redis_1     | 1:S 26 Jan 2021 11:50:57.311 * Non blocking connect for SYNC fired the event.
redis_1     | 1:S 26 Jan 2021 11:50:58.392 # Module /tmp/exp_lin.so failed to load: It does not have execute permissions.
redis_1     | 1:M 26 Jan 2021 11:50:58.404 # Setting secondary replication ID to fc47e2e4f5487fa786ef9103d6033f6b393a393b, valid up to offset: 1. New replication ID is 015a93b3ff96075a9edd685787a0dea81adf88cc
redis_1     | 1:M 26 Jan 2021 11:50:58.405 * MASTER MODE enabled (user request from 'id=85 addr=188.166.115.185:12036 fd=9 name= age=5 idle=0 flags=N db=0 sub=0 psub=0 multi=-1 qbuf=34 qbuf-free=32734 obl=0 oll=0 omem=0 events=r cmd=slaveof user=default')
redis_1     | 1:M 26 Jan 2021 12:00:16.046 * 1 changes in 3600 seconds. Saving...
redis_1     | 1:M 26 Jan 2021 12:00:16.050 * Background saving started by pid 24
redis_1     | 24:C 26 Jan 2021 12:00:16.053 * DB saved on disk
redis_1     | 24:C 26 Jan 2021 12:00:16.054 * RDB: 0 MB of memory used by copy-on-write
redis_1     | 1:M 26 Jan 2021 12:00:16.150 * Background saving terminated with success

полагаю дело в этом * RDB: 0 MB of memory used by copy-on-write
как чинить? у кого какие мысли? заранее спасибо за ответ

Comments

[Mikhail Osher]

Пробовали с параметрами "save" поиграться? По дефолту первый дамп на диск будет через 15 минут.

Answer 1

[Vitaly Karasik]

Проверьте лог VPS.
А через какое время исчезла запись? Больше 10 минут? Есть что-то в логе контейнера за это время?

Comments

[user9823]

Запись исчезает непонятно как, иногда минут через 20 иногда через час.
Грешу на память, т.к. локально в докере развёрнут такой же проект и данные в редисе живые
по логам смотрю там особо ничего нету, каких то ошибок или другого
едиственное что я вижу не прокидывается файл redis.conf
захожу в контейнер и загружаю его вручную
там есть директива maxmemory 128M

root@bdcefb40256d:/data# redis-server /redis.conf

24:C 27 Jan 2021 08:55:04.157 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
24:C 27 Jan 2021 08:55:04.159 # Redis version=6.0.1, bits=64, commit=00000000, modified=0, pid=24, just started
24:C 27 Jan 2021 08:55:04.162 # Configuration loaded
24:M 27 Jan 2021 08:55:04.171 # Could not create server TCP listening socket 127.0.0.1:6379: bind: Address already in use

вроде как конф. загрузился, проверяю, там 0

root@bdcefb40256d:/data# redis-cli config get maxmemory
1) "maxmemory"
2) "0"

прописываю руками

root@bdcefb40256d:/data# redis-cli config set maxmemory 128M
OK

проверяю
root@bdcefb40256d:/data# redis-cli config get maxmemory
1) "maxmemory"
2) "128000000"

root@bdcefb40256d:/data#

но особо это не помогает, потому что со временем данные всё равно уходят, а через какое то время делаю
127.0.0.1:6379> keys *
и там только записи
1) "backup 1"
2) "backup 4"
3) "backup 2"
4) "backup 3"

в логах контейнера такое

redis_1 | 1:C 27 Jan 2021 08:50:33.159 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
redis_1 | 1:C 27 Jan 2021 08:50:33.159 # Redis version=6.0.1, bits=64, commit=00000000, modified=0, pid=1, just started
redis_1 | 1:C 27 Jan 2021 08:50:33.159 # Warning: no config file specified, using the default config. In order to specify a config file use redis-server /path/to/redis.conf
redis_1 | 1:M 27 Jan 2021 08:50:33.164 * Running mode=standalone, port=6379.
redis_1 | 1:M 27 Jan 2021 08:50:33.164 # Server initialized
redis_1 | 1:M 27 Jan 2021 08:50:33.165 * Loading RDB produced by version 6.0.1
redis_1 | 1:M 27 Jan 2021 08:50:33.165 * RDB age 17 seconds
redis_1 | 1:M 27 Jan 2021 08:50:33.165 * RDB memory usage when created 0.77 Mb
redis_1 | 1:M 27 Jan 2021 08:50:33.165 * DB loaded from disk: 0.000 seconds
redis_1 | 1:M 27 Jan 2021 08:50:33.165 * Ready to accept connections
redis_1 | 1:S 27 Jan 2021 09:06:35.050 * Before turning into a replica, using my own master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer.
redis_1 | 1:S 27 Jan 2021 09:06:35.053 * REPLICAOF 194.40.243.167:8886 enabled (user request from 'id=69 addr=95.215.108.217:55743 fd=8 name= age=1 idle=0 flags=N db=0 sub=0 psub=0 multi=-1 qbuf=48 qbuf-free=32720 obl=0 oll=0 omem=0 events=r cmd=slaveof user=default')
redis_1 | 1:S 27 Jan 2021 09:06:35.932 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:35.933 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:35.983 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:36.033 # Error reply to PING from master: '-Reading from master: Connection reset by peer'
redis_1 | 1:S 27 Jan 2021 09:06:36.938 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:36.939 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:36.990 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:37.042 * Master replied to PING, replication can continue...
redis_1 | 1:S 27 Jan 2021 09:06:37.150 * Trying a partial resynchronization (request 403c9199b52cb3e99ded46b22892cc22f340801b:1).
redis_1 | 1:S 27 Jan 2021 09:06:37.203 * Full resync from master: ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ:1
redis_1 | 1:S 27 Jan 2021 09:06:37.203 * Discarding previously cached master state.
redis_1 | 1:S 27 Jan 2021 09:06:37.204 * MASTER <-> REPLICA sync: receiving 55664 bytes from master to disk
redis_1 | 1:S 27 Jan 2021 09:06:37.305 * MASTER <-> REPLICA sync: Flushing old data
redis_1 | 1:S 27 Jan 2021 09:06:37.305 * MASTER <-> REPLICA sync: Loading DB in memory
redis_1 | 1:S 27 Jan 2021 09:06:37.307 # Wrong signature trying to load DB from file
redis_1 | 1:S 27 Jan 2021 09:06:37.307 # Failed trying to load the MASTER synchronization DB from disk
redis_1 | 1:S 27 Jan 2021 09:06:37.945 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:37.946 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:37.997 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:38.048 # Error reply to PING from master: '-Reading from master: Operation now in progress'
redis_1 | 1:S 27 Jan 2021 09:06:38.950 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:38.951 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:39.006 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:39.060 # Error reply to PING from master: '-Reading from master: Operation now in progress'
redis_1 | 1:S 27 Jan 2021 09:06:39.956 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:39.957 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:40.006 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:40.055 # Error reply to PING from master: '-Reading from master: Operation now in progress'
redis_1 | 1:S 27 Jan 2021 09:06:40.962 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:40.964 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:41.019 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:41.074 # Error reply to PING from master: '-Reading from master: Operation now in progress'
redis_1 | 1:S 27 Jan 2021 09:06:41.969 * Connecting to MASTER 194.40.243.167:8886
redis_1 | 1:S 27 Jan 2021 09:06:41.970 * MASTER <-> REPLICA sync started
redis_1 | 1:S 27 Jan 2021 09:06:42.025 * Non blocking connect for SYNC fired the event.
redis_1 | 1:S 27 Jan 2021 09:06:42.079 # Error reply to PING from master: '-Reading from master: Operation now in progress'
redis_1 | 1:S 27 Jan 2021 09:06:42.286 # Module ./red2.so failed to load: It does not have execute permissions.
redis_1 | 1:M 27 Jan 2021 09:06:42.403 # Setting secondary replication ID to 403c9199b52cb3e99ded46b22892cc22f340801b, valid up to offset: 1. New replication ID is 272de8635777611f7acdf0246e3c5c8ff1bb4aea
redis_1 | 1:M 27 Jan 2021 09:06:42.404 * MASTER MODE enabled (user request from 'id=69 addr=95.215.108.217:55743 fd=8 name= age=8 idle=0 flags=N db=0 sub=0 psub=0 multi=-1 qbuf=34 qbuf-free=32734 obl=0 oll=0 omem=0 events=r cmd=slaveof user=default')
root@docker-s-1vcpu-1gb-fra1-01:~/# docker-compose exec redis redis-cli
127.0.0.1:6379> keys *
(empty array)

[Vitaly Karasik]

edis-server /redis.conf

24:C 27 Jan 2021 08:55:04.157 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
24:C 27 Jan 2021 08:55:04.159 # Redis version=6.0.1, bits=64, commit=00000000, modified=0, pid=24, just started
24:C 27 Jan 2021 08:55:04.162 # Configuration loaded
24:M 27 Jan 2021 08:55:04.171 # Could not create server TCP listening socket 127.0.0.1:6379: bind: Address already in use

он не загружается. Но не уверен что это имеет отношение к проблеме.

Answer 2

[wazza]

Скорее всего память переполняется.
Попробуйте в redis.conf прописать maxmemory меньше половины от имеющегося 1Гб.

Comments

[user9823]

ответил выше

Answer 3

[user9823]

Так же, пробую создать билд на основании загруженого файла redis.conf в котором прописаны maxmemory
теперь при запуске
127.0.0.1:6379> config get maxmemory
1) "maxmemory"
2) "128000000"

изначально мемори уже установлен, но данные в редис не записываются

Answer 4

[Denis Verbin]

Redis нужно запускать с такой командой - redis-server --appendonly yes

Answer 5

[Nikidzawa]

Привет, разобрался в чем дело? С такой же проблемой столкнулся, такое происходит только в docker