Taus

Наиболее близкое к вашему вопросу - это пуассоновское биномиальное распределение. (Poisson binomial distribution)

Найти центр окружности по дуге не составляет труда. Поэтому будет стартовать с этого. Дан треугольник DCE, где CE - дуга окружности с центром A. При чём точка D лежит с левой стороны от вектора EC.

1. Проведём биссектрису h между сторонами DE и DC
   
2. Построим перпендикуляр из центра окружности к биссектрисе AA'. A' точка симметричная к центру окружности относительно биссектрисы h
   
3. Построим прямую j параллельную стороне DE на расстоянии равном AE, радиусу окружности. Прямая j и AA' пересекутся в точке G.
   
4. Построим среднее-геометрическое отрезков GA' и GA:
   
   1. Отложим на прямой AA' отрезок HG так что HG=GA'
      
   2. Проведём окружность p с диаметром HA
      
   3. Проведём перпендикуляр к прямой AA' в точке G. Он пересечёт окружность p в точке I. GI - среднее геометрическое GA' и GA
      
   
   
5. Отложим на прямой j отрезок GJ длиной GI
   
6. Построим перпендикуляр к j в точке J. Он пересечёт биссектрису h в точке L
   
7. Точка L - центр искомой вписанной окружности
   
8. Строим перпендикуляр из L на сторону DC и получаем радиус окружности LM
   

Построения в geogebra
Восстанавливал построение по алгебре, поэтому очень вероятно, что существует решение проще.

Нужно попробовать переставить строки матрицы (уравнения в СЛАУ), так чтобы матрица получила свойство диагонального преобладания. Такое возможно не для любой матрицы, но в вашем случае возможно:
M = (m1 m2 m3 m4)^T --> M' = (m3 m4 m2 m1)^T
mi - строки в вашей матрице M.

1. Для проверки попадания точки внутрь эллипса - ваше предложение наиболее разумное. Благо все преобразования аффинные и для них обратные строятся просто. Находите прообраз интересующей точки в плоскости окружности и легко проверяете попадание.
2. При аффинных преобразованиях перпендикулярные диаметры окружности перейдут в сопряжённые диаметры эллипса. Зная векторы сопряжённых диаметров c1, c2, легко вычислить площадь эллипса π Abs(VectorProduct(c1,c2)).

Если нужны какие-то ещё параметры эллипса, то их можно вычислить из свойств сопряжённых диаметров (в английской литературе conjugate diameters).
Главные диаметры часто строят с помощью Rytz's consturction.