Синтаксис lib.MySort похож на обращение к методу MySort объекта lib. Сам объект может создаваться как в VB-приложении, так и в подключаемых динамических библиотеках. Можно попробовать поискать в EXE-файле строки .DLL, а потом исследовать те DLL-файлы, имена которых были найдены, на предмет наличия в них строк MySort. Что касается изучения работы скомпилированного приложения/библиотеки при отсутствии исходных текстов, то, скорее всего, придётся использовать декомпилятор байт-кода, дизассемблер и отладчик.