То, что вы ищете, называется kiosk.
вот первая попавшаяся ссылка на статью о создании kiosk с Qt-приложением для Raspberry Pi.
Самый технологически примитивный вариант — запускать программу сразу после загрузки ОС, сконфигурировав её на отображение во фреймбуффере (fbdev). Qt5 это поддерживает. Для этого не нужны ни X, ни Wayland, но аппаратное ускорение работать будет.
Классический «правильный» вариант — сделать X-сессию (x session), которая запускает только ваше приложение, и загружаться в неё автоматически.