Опенсорсной (при этом хорошо защищающей) не может быть по определению. Либо пишишь сам какую-то систему лицензирования, которую сможет взломать любой мамкин хакер, либо покуаешь (вернее, арендуешь) систему защиты с предоставляемой инфраструктурой для продажи лицензионных ключей.
Ищи в сторону защиты и обфускации приложений. Без этого от лицензионных ключей никакого толку нет.
