Как вариант используя либу FPDI, можно читать метаданные
$pdfFilePath = 'path_to_your_pdf_file.pdf';
$pdf = new FPDI();
$pdf->setSourceFile($pdfFilePath);
$pdfMeta = $pdf->getPdfReader()->getPageResources(1);
$protection = $pdfMeta['/Encrypt'];
if ($protection) {
....
}