Похоже, наиболее реальной видится модель когда софт пишется закрытым, с коммерческой лицензией, но обеспечивается механизм плагинов. При этом плагины могут быть как открытые/бесплатные, так и платные, а дальше кто, что напишет. Для бизнеса такая модель выглядит даже лучше - вокруг софта может образоваться экосистема из любителей и предпринимателей.
Хотел бы добавить - мне по большому счету по барабану делать это open source или продавать закрытым, вопрос не в том, что я хочу за счет кого-то написать и потом продавать.
Мысль об open source возникла про следующим причинам - сделать софт популярным; не брать денег с энтузиастов, но дать им полный контроль; получить фидбэк и тестирование.