Видишь ли в чём дело, если ты используешь тулчейн сильно отличный от того, которым собраны библиотеки установленные на устройство, у тебя есть три варианта действий:
- перестроить и обновить все библиотеки на устройстве.
- создать отдельную иерархию каталогов /lib, /usr/lib, ... в которые сложить библиотеки (.so) нового тулчейна и тем или иным способом заставить исполняемые файлы собранные новым тулчейном использовать их.
- линковать свои исполняемые файлы статически.
В последнем варианте тебе подойдёт почти любой тулчейн, два других варианта -- более замороченные.
https://elinux.org/Toolchains#Prebuilt_toolchains