А что собственно выдает консоль, когда вызывается composer install? Через какую консоль команда вызывалась? Можно попробовать настройки переменной path поменять в настройках OpenServer? это правда в случае, если используется консоль, зашитая внутри OpenServer.