В общем случае - да, лучше перекомпилировать.
Но это зависит не от названия дистрибутива, а от версий конкретных библиотек от которых зависит проект. Некоторые различия версий допускают бинарную совместимость зависимых пакетов, некоторые - нет. Поэтому для каждого (скомпилированного) бинарного пакета всегда четко устанавливается допустимы диапазон версий библиотек от которых он зависит. Это означает, что на этом диапазоне пакет протестирован, работает корректно и может быть перенесен в любой debian-based дистрибутив при условии соответствия версий библиотек, иначе он не установится.