1. Если это COM библиотека, что может регистрироваться через regsvr32, то вам должны быть доступны следующие функции.
DllCanUnloadNow, DllGetClassObject, DllRegisterServer, DllUnregisterServer
Через DllGetClassObject можно создать COM обьект, зная его IID.
Если это обычная библиотека, то тогда может быть и OpenConnection. (Хотя разработчики могут и с COM серверами экспортировать иные функции, но как правило это не делают)
2. Если COM сервер правильно зарегистрирован, то не нужно загружать библиотеку самостоятельно, можно создать обьект через CoCreateInstance
3. Если это обычная библиотека, то вы можете ее загрузить только если она соотвествует разрядности текущего процесса. То есть 32х битные, только 32х битными приложениями, а 64х только из 64х битного.