а1) Простите, а кто собирается шифровать файлы? Вы сами или вирус?
а2) Против вируса есть много средств. Например, можно не дать ему доступ, используя права доступа к файлу. Или можно удерживать файл, открыв его в режиме "только чтение" - тогда его нельзя будет открыть на запись (но в Unix - его можно будет удалить после создания зашифрованной копии).
а3) Предпочтительно использовать операционку, для которой нет вирусов. Например, FreeBSD.
б) Как тут уже сказали - надо хранить несколько бэкапов; но не только инкрементальные, а несколько полных. Для каждого бэкапа - проверять его исправность ПОСЛЕ того, как он скопирован в безопасное место.
в) Нормальный бэкап делается иначе. Не сам SQL-сервер делает бэкап в виде файла, а бэкап-сервер делает себе копию средствами SQL. Хотя тут возможны тонкости.