Делайте такую структуру, чтобы было просто и быстро писать/читать данные (если вы хотите чтобы эффективно работало на больших данных).
Например в вашем случае подойдет:
db.col.update({_id: 'testNick'}, {$set: {'nick2.testNick2': true}}, true)
_id: 'testNick' - дает уникальность по nick в пределах колекции (и использует основной индекс по делу, не нужно создавать дополнительный индекс - экономия памяти).
'nick2.testNick2': true - использование словаря вместо массива дает уникальность в пределах документа.
Множественный вызов команды не создает дублей.