Zettabyte

могут ли быть сбои при работе системы, если использовать hdd с битыми секторами в качестве медиа раздела?

При таком подходе я бы ещё обратил внимание на то, как будут вести себя используемые вами приложения, наткнувшись на нечитаемый(-е) блок.

А так, под свою ответственность, со своими данными, конечно, можете использовать.

Если сейчас на диске ничего нет, можете дополнительно взять R.tester и запустить сначала запись по всему объёму (уничтожит данные), затем чтение также по всему диску.
Это будет нормальный "стресс-тест" для накопителя, заодно посмотрите переживёт ли он его вообще. В будущем также может использовать Р.тестер для отслеживания здоровья диска.

Меня интересует, что лучше в плане надёжности.

Hitachi (HGST) или Toshiba (ещё лучше, если те модели, которые раньше были Хитачи).

Либо старшие WD, которые на самом деле HGST (сравнивайте по реальным фото дисков).

Сигейт (тем более серию DM) я бы рассматривал только если нет больше никаких вариантов.

специального алгоритма дефрагментации для SSD (я не помню его название, но в вышеуказанной программе он был

Заинтересовался вот этим и даже специально посмотрел. Вот что пишет сам Auslogics:
"We had a lot of users ask us whether they should defragment their SSDs. The answer is “No”.

И далее: "However, it’s still best to make sure defragmentation is disabled." (это о Windows scheduled disk defragmentation)

Дефрагментация для ССД вредна - она только увеличит его износ, а транслятор полностью обесценит её результаты на физическом уровне - записать конкретные данные в конкретную ячейку не получится.

Что для ССД нужно, так это TRIM. Если эта команда вдруг у вас не работает, то включите.
Проверка - fsutil behavior query disabledeletenotify в командной строке. 0 - включена, 1 - отключена.
Это важно, к примеру, вот тест ССД до и после TRIM.

Для жёстких дисков раньше хвалили Raxco PerfectDisk, но со временем он, по-моему, разжирел.
Из бесплатных должен подойти UltraDefrag, ещё есть JkDefrag и Smart Defrag.