А цель какая?
Если необходимо только сохранение направления кривой в P0 и P2, то достаточно просто. Строим перпендикуляр к P0P1 в точке P0, перпендикуляр к P1P2 в точке P2, находим пересечение перпендикуляров, получаем центр окружности.
Если максимально точное приближение, но без сохранения направления в крайних точках, то тут уже будут трёхэтажные формулы.