Если бы операции с числами с повышенной точностью можно было производить "в лоб", то математический софт никогда не стал так раздут и жаден до ресурсов.
Подход здесь всегда одинаков, проблемная операция преобразуется в выражение которое может быть вычислено с приемлемой потерей точности. Например: выделяют порядок и операции производят только над мантиссой; разбивают операцию на несколько этапов, для корня можно представить значение в виде произведения и считать корни для множителей, и т.д. В первом приближении, берёте учебник линейки или анализа и вперёд.