Проблема решена. Подключил библиотеку через LoadLibrary, а не через LoadLibraryEx.
Дело было в параметре DONT_RESOLVE_DLL_REFERENCES. Поэтому если внутри dll необходимо открыть, например, COM-порт, необходимо использовать либо LoadLibrary, либо в функции LoadLibraryEx использовать LOAD_WITH_ALTERED_SEARCH_PATH.