Попробуйте поставить из PPA, один из вариантов
описан тут.
Вариант про "исходники" уже озвучили выше.
Если ни один из выше описанных вариантов Вам не подойдёт, как альтернативный вариант - можно установить с помощью Docker'а,
там этого добра как грязи, каких угодно версий и сочетаний.
P.S. Насколько я помню, в бубунтах PHP ставится либо:
sudo apt-get install php5.2 либо
sudo apt-get install php52, т.е. без указаний 3-ей цифры в версии (возможно я ошибаюсь).