не пойми откуда взялась переменная $order
Из вашего магазина. Для запроса на оплату нужны уникальный id заказа, его сумма и его название (в примере - просто текст, но его имеет смысл заменить на реальное название, так как пользователю на сайте Робокассы будет предложено именно это оплатить).
Без этих параметров Робокасса вам, естественно, ничего не предложит. Что оплачивать-то?
Так же, нужно и создавать отдельную таблицу для платежей?
Опять-таки вопрос к вашему магазину. У вас должны храниться заказы, чтобы, когда Робокасса подтвердит вам оплату, сверить сумму - не подделал ли ее пользователь по дороге. В той же таблице можно хранить и информацию об оплате этого заказа.