Может быть.
А может быть и нет.
Все зависит от того, что за программа. Ну и от вида ее распространения, конечно.
Если это src.tar.bz2 - то скорее всего там универсальный исходник, который либо не требует настройки а соберется сам, либо сам настроится через configure
Если это пакет - то он заработает в соответствующем дистрибе (а иногда и только в соответствующей версии, например .rpm-пакеты с _el7 в имени бесполезно ставить в CentOS 6)
.deb-пакет можно установить на дистрибы линейки Debian
.rpm-пакет - на дистрибы линейки RedHat (а также на любой дистриб, где стоит программа rpm, с потерей существенной части ее функционала)
есть еще множество малоизвестных форматов - применяемых в одном-двух дистрибах
Иногда распространяется "портативная" версия - как в винде - где все свое, так например распространяется Firefox и Thunderbird. LO распространяется в rpm, но ставится разумеется всюду (нужно только сам rpm поставить)