зависит от того какого рода нагрузки. Если вам надо обрабатывать огромное количество соединений, типа там web-сервер или dns-сервер, то тут упор нужно делать в массовый паралелизм, lock-free структуры данных и много разных вещей. Если это ваш случай, то гуглите по "C10K problem"
Если у вас обычное web приложение, то к i/o у вас добавится база данных. И тут уже подходит все что есть по java и другим языкам. То есть в этом ключе c++ даст прирост производительности только для сервисного слоя пожалуй. Больший прирост дадут архитектурные решения. Тут можно почитать про распределенные приложения и т.д.