Можно вызывать в cmd конвеер, в котором попытаться отфильтровать файлы за первое число.
Примерно что-то такое:
forfiles -p "c:\folder" -s -m *.* -d -1 -c "cmd /c (dir @path | findstr /v /r /c:"тут регулярное выражение для поиска 1 дня в дате") && del /q @path"
Это лишь схема, как можно подойти к решению. Ничего не отлаживал.
Конвеер можно отладить отдельно, запихнув его в батник или прямо из командной строки.
Сформировать регулярное выражение, думаю, будет не трудно. Я давно ими не пользовался, так что выветрилось из головы, а вспоминать лень.
Вижу некоторые трудности со вложенными кавычками, возможно надо как-то их экранировать. Может что-то по этому поводу есть в справке по forfiles.
Кстати, формат вывода даты в dir зависит от системных настроек формата даты, так что на разных компах он может быть разным. Имейте это ввиду. cmd не умеет работать с датами, поэтому приходится использовать только возможности работы со строками.