QGraphicsBlurEffect слушит для размытия самого виджета, а не того что за ним. Судя по скрину Вам под win, поэтому Вам нужно изучить DirectComposition API, который по сути даст Вам прямой доступ к кадровому буферу DirectX окна. Вот тут в частности есть пример решения Вашей задачи.