Можно ли реализовать такую программу, которая могла бы читать файлы определенного формата и исполнять инструкции написанные в них?
Можно.
хочу чтобы подсказали как можно реализовать подобную идею
А вы сами не знаете? Читать файл, разбирать на слова, в зависимости от слов выполнять команды.
А если хочется возможность прикрутить плагины к своей программе, то смотрите в сторону
динамической загрузки сборок. Опишите интерфейсами как должны выглядеть плагины и какие сервисы вы предоставляете плагинам. Удачи.