Возьмите Lua.
Пожалуй, это самый простой скриптовой язык, да ещё и встраиваемый, то есть можно просто взять его готовую реализацию и встроить в своё приложение. Программисту для изучения синтаксиса понадобится около 15 минут. В то же время это довольно мощный язык, в котором есть практически всё, что может понадобится в плане синтаксиса. Встроенных функций не так много, но основные есть, ведь упор на простоту изучения (для ваших же пользователей). А если действительно нужен именно свой скриптовой язык, то на примере Lua можно понять, какой необходимый минимум должен быть в языке, можно изучить исходники и т.д.