Пакеты не устанавливаются(не должны) внутрь твоего пакета. Они идут в разделе require, как используемые твоим пакетом. Те.. Если их до этого не было в vendor, то да.. они прокачаются... Если они уже были, произойдет проверка на правильность версий и они качаться не будут...
И я свои пакеты добавляю через внутренний репозиторий(который собираю в отдельной папке )
    "repositories": [
        {
            "type": "path",
            "url": "packages/MyRepo/*"
        },
        {
            "type": "path",
            "url": "packages/MyRepo/CMSModules/*"
        }
    ],
 и при необходимости, нужные мне модули пихаю в
    "require": {
        "php": ">=5.6.4",
        ......
        "MyRepo/MyModule1":"*"
    },