Если характеристика потребления ресурсов изменяется условно «плавно», к примеру, вы можете гарантировать по условию, что частота экстремумов графика не будет превышать 1 герц — можно использовать AVG. Простой скрипт, на BASH или PERL, который будет ренайсить процессы в зависимости от потребления ресурсов.
Если возможно более резкое потребление ресурсов — эффективных решений нет. Виртуализация не поможет — повесить машину, на которой находится виртуалка, в целом ряде популярных случаев — не проблема. В качестве теста пробуйте, к примеру, масштабировать imagemagick convert много картинок по регулярке. Этим экспериментом как-то повесили известного хостинг-провайдера, даром что запускалось через виртуоззо.
Оффтоп. FreeBSD вообще не умеет управлять потреблением ресурсов в реальном времени, пройденный этап — даже не смотрите в ее сторону. С Debian и Ubuntu у меня и коллег это получалось.
Решение — пробуйте спрогнозировать нагрузку и спланировать ресурсы под вариант-максимум. Как показывает практика, это действительно эффективный подход. Если упираетесь в финансирование — пересматривайте бизнес-модель. У Google это, кстати, получилось…