Возьмем это изображение с вики
(Сама статья)
Это матричная запись уравнения движения. Transition matrix и есть этот самый Fk, т.е. матрица перехода, которая связывает предыдущий вектор состояния x_k-1 и текущий x_k.
Например, для системы диф. уравнений:
v1 = 3 * x1 + 0.1 * x2
v2 = 0.3 * x1 + 0.5 * x2
Переходная матрица будет составлять [[3, 0,1], [0.3][0.5]], где v1, v2 есть первые производные для x1 и x2 соответственно.
Так же есть верктор измерений z, который связан с вектором состояния X через матрицу H
Вот эта Hk и есть observation matrix.
Как ее получить, если у вас есть только система диф. уравнений? Ну подставьте в систему текущие значения, да посмотрите коэффициенты (вообще способов лианеризации много)