Как из x^3 + 3x^2 + 3x + 1 получается (x+1)^3? То есть, конечно, можно придти к такому сокращению путем перебора различных вариантов, но есть ли какой то быстрый способ для сокращения таких выражений? Как вообще такое делается в сложных уравнениях?
Быстрого общего способа нет.
Всякий многочлен с вещественными коэффициентами можно разложить в произведение линейных и квадратичных множителей с вещественными коэффициентами (wiki). Но задача поиска этого разложения эквивалентна задаче вычисления всех корней этого многочлена, которая (задача) неразрешима в радикалах для полиномов пятой степени и выше.
Да, и чтобы найти такой ответ поиском, нужно либо знать термин "формула сокращённого умножения" из школьной программы, либо читать раздел основ линейной алгебры в каком-либо учебнике (что тоже требует знания того, что это - линейная алгебра). Это к вопросу о тех индивидуумах, которые любят бубнить "математика не нужна, всё можно найти".