У меня похожий случай был. Надо открыть папку с vmware Workstation 15 и запустить от имени администратора файл openssl.exe . Если после его запуска появляется эта ошибка, то установи Microsoft Visual x64 и x86 + установить библиотеки ssleay32.dll и libeay32.dll. Если это не помогло или если с опенссл всё хорошо, то советую отключить виртуализации в bios и если включена Hyper -v отключить её, снести VMWare и установить заного, потом включить виртуализации в bios. Если и это не помогло, то надо изучать регистр и смотреть подробности ошибок, но проще будет переустановить Windows.