Место на диске занимается блоками и файл размером 1 байт всё равно занимает один блок (обычно 4кб, зависит от файловой системы и её настроек), так что если у вас миллион файлов по 1 байту, это не значит что у вас будет занят 1Мб. Плюс каталоги тоже занимают место.
Программы же обычно считают размеры файлов в байтах. Поэтому если у вас в кеше много маленьких файлов, то nginx вполне может считать, что вписывается в квоту.