В чем соль использования хука Reducer кроме того что "мы так привыкли делать в Redux"?

Роми, prevState - это колбек, который возвращает setState при его вызове. Ноль магии. Ты можешь обозвать как угодно параметр.

В чем соль использования хука Reducer кроме того что "мы так привыкли делать в Redux"?

Точно так же все "привыкли" использовать redux. Давно уже существуют нормальные стейт-менеджеры на примере того же mobx, но нет, чему-то учиться - это прям сверх.

Что лучше использовать Redux или Context?

Не нужно советовать людям ерунды в виде заоверхеженного редакса, который еще и в производительность не очень. Есть же mobx, в конце концов.