Внимательно почитайте документацию, у ВК она расписана подробнее некуда.
Метод
groups.invite:
Данный метод доступен только Standalone-приложениям.
Далее читаете про Standalone авторизацию и видите, что redirect_url должен обязательно быть
redirect_uri=https://oauth.vk.com/blank.html
Если Вы сможете вытащить access_token с
redirect_uri=https://oauth.vk.com/blank.html, используя php, то сможете использовать данный метод на сайте.
