* - не включает файлы начинающиеся с точки (скрытые файлы).
Если имя всегда с точкой тогда можно использовать шаблон ".*.pem"
Если может быть произвольным тогда лучше использовать find, например
find /var/lib/dkim/ -name '*.pem' -exec chmod 600 {} \;