Для веб-приложений имеется ввиду возможность записывать, считывать и отдавать данные. Когда запросов много и много данных – вы не сможете хранить все данные в памяти для быстрого доступа к ним - приходится идти за ними на диск (или на другую машину). Как правило тут и возникает bottle neck. Особенно если у вас с одной машины отдаются и статика и БД тут лежит и логи пишутся со всех возможных мест.
