Наверное уже давно сгладилась разница и сейчас нет простого ответа - что вот этот движок хуже, а этот лучше. Они все примерно одинаковые по функциональности, по возможностям и т.п.
Скорее есть разница по качеству кода и степени поддержки со стороны разработчиков. Это вам уже поотвечали тут, я лишь уточню.
Коммерческие движки предполагают, что купив у них продукт, вы получите некий канал связи напрямую с разработчиками. Тем самым при возникновении трудностей можно с ними проконсультироваться или запросить помощь. По факту все не так радужно, зачастую поддержка продукта хромает, даже если вы заплатили деньги. А решение нестандартных задач все равно выполняется за деньги. Про качество кода и документацию - все также не очень радужно.
Open-source (мне не нравится слово бесплатное, это не так же) - это движки с открытым кодом, который можно скачать обычно бесплатно и без каких-то ограничений использовать для реализации своего проекта. Зачастую качество код и документация в таких проектах получше, чем в коммерческих, чисто за счет того, что это open-source. То есть всегда найдутся люди, которые найдут косяки и костыли, исправят их, опишут и т.п. Справедливо для больших и известных проектов. Но с поддержкой сложнее - найти ее можно только у сторонних организаций, либо на форумах и интернете. Тут уж как повезет с качеством. И спихнуть проблему на техподдержку зачастую тоже не удастся - надо быть к этому готовым.