QGraphicsBlurEffect слушит для размытия самого виджета, а не того что за ним. Судя по скрину Вам под win, поэтому Вам нужно изучить
DirectComposition API, который по сути даст Вам прямой доступ к кадровому буферу DirectX окна. Вот
тут в частности есть пример решения Вашей задачи.
