Попробуй установить как
здесь.
Далее в среде разработки нужно в настройках компилятора прописать пути к заголовочным и библиотечным файлам. -> usr/local/include/opencv , usr/local/include/opencv2 и usr/local/lib
и указать нужные библиотеки(я указываю сразу все что есть в папке).
Если стоит codeblocks могу подробно показать