Начиная с Win8, если я ничего не путаю, GPU становятся видны через WinAPI, но я сам эти функции не смотрел, насколько они удобнее/лучше OpenCL не знаю. Второй важный момент, на который очень советую обратить внимание - наличие годного отладчика, в том числе для GPU-ядер. Ну а по производительности можете потратить день на установку разных ОС и сравнить производительность на одинаковых ядрах.