Вообще говоря, ARM это не совсем единая архитектура, в её рамках есть много вариаций.
И не на всех ARM можно запустить Linux, например на каких-нибудь младших Cortex-M0.
К тому же, действительно просто, будет установить Linux только на какие-то популярные железки, к которым есть достаточно подробные инструкции. Без этого, или богатого опыта, установка может быть довольно не тривиальной задачей.
Так что лучше было бы огласить, а на чём собрана ваша железка, или как она называется, чтобы вам могли дать действительно полезный совет.
