Вообще лучше использовать virtualenv, но если речь о глабальных пакетах для python2.7 и python3, то можно просто использовать pip3 для последнего. Для убедительности предлагаю сравнить вывод следующих команд (Ubuntu):
head -n1 $(which pip)
head -n1 $(which pip3)