Monnoroch

Для разных версий ОС и разной архитектуры машины все равно придется распространять разные дистрибутивы.
Так что остаются только разные версии eclipse и octave. Тут можно просто собрать все варианты и запихнуть в инсталлятор, а при установке детектировать (или спрашивать) необходимые версии ПО и соответственно устанавливать ту, которая подойдет.

Для начала, я сомневаюсь, что кто-то захочет писать библиотеку символьных вычислений с человеком, который называет их символическими.
А по существу — что конкретно вы подразумеваете под библиотекой символьных вычислений?
Как вы в общих чертах видите конечный результат?

А по-моему круче всего ничего не шифровать, а просто напихать левых настроек, а для настоящих использовать «неправильные» значения: true и false поменять местами и прочее.
Плюс в том, что только вы будете знать, что настройки зашифрованы. И не надо тонну классов перегружать, только метод-конвертер значений написать.

Ничто не защитит от ручной декомпиляции, специалист все равно разберется. Для автоматической же C++ существенно лучше в этом плане — бинарник почти не хранит метаинформации о коде, соответственно и разобрать программе его сложнее.

А я буду нестандартным и в контексте моей рекламной кампании этого языка посоветую D. Либы для GUI есть, даже биндинг Qt есть, сам по себе язык очень приятен. Но это, конечно, не мэйнстрим (пока).