Спасибо
Denis Gaydak за помощь, как выяснилось , проблема заключалась в том что компьютер всегда отслеживает мышь, соотвественно даже после того как клик завершился, а телефон палец не может отслеживать, поэтому при повторном нажатии он начинал вычисления от предыдущего нажатия.
Решилось все просто, при каждом новом нажатии/клике - вычисляется координаты нажатия/клика и уже относительно их происходят дальнейшие вычисления.