MariaDB во всём лучше MySQL? Или у MySQL есть какие-то преимущества?

Разница в производительности между MySQL и MDB - под микроскопом, на практике несущественна. Зато багов в MDB больше, сам встречал.

Что выбрать APCu vs Memcache?

В какое это прошлое ушел APCu ? (не путать с APC).
Соединение с memcached стандартно происходит через стек TCP/IP (редко через сокет), поэтому доступ к нему медленней чем к APCu в shared memory. А значит memcached стоит использовать только в случаях когда необходим shared-кэш между серверами. В остальных случаях APCu будет много лучше.