Посмотрите в сторону составных уникальных индексов.
schema.index({post_id: 1, idGroup: 1}, {unique: true});
Соответственно вставка нового документа с аналогичными значениями вызовет ошибку Duplicate key с кодом 11000.
Также, возможно, вам потребуется отключить autoIndex при создании новой схемы, если он у вас не отключен глобально.
Доки mongooseСоставные индексыУникальные индексы