demiol

QMAKE_LFLAGS +='-Wl,-rpath,\'\$$ORIGIN/\',-z,origin'

$ORIGIN - путь к исполняемому файлу, вычисляется в runtime, не во время линковки.
«$» в начале нуждается в защите от шелла и make.