Зная что, sec^2(x) = 1/cos^2(x);
Раскрываем скобки в знаменателе с правой стороны равенства:
cos^2(x) * (sin^2(x)/cos^2(x) + 5sin(x)/cos(x) + 6) =
sin^2(x) + 5sin(x)cos(x) + 6cos^2(x) =
-5sin^2(x) + 5sin(x)cos(x) + 6.
Второе равенство из того что 6sin^2(x) + 6cos^2(x) = 6.
Ну и минус там как раз есть перед дробью, чтобы знак в знаменателе поменять.