У logrotate нет зависимости от размера папки - потому что в linux нет папок, там директории.
Но и от размера директории тоже нет-есть только размер файлов.
Поэтому можно отключить автоматическую ротацию, написать скрипт, который будет проверять размер директории по крону и давать команду logrotate с определенным конфигом.