Будь то забиванием озу, диска, или проникновением в bash самого основного сервера.
Ты знаешь, многие вопросы в инфо-технологиях быстрее проверить чем доказывать ссылаясь на литературу.
Это как в физике-механике. Делаем эксперимент. Яблоко падает. И уже подгоняем формулы и научную основу.
Создай образ докера. Создай С++ привет мир-приложение которое делает malloc(1Гб). А потом сделай
docker run .... --memory 512M
Что тебе мешает это сделать и просто прийти в хабр уже с ответом и дальше спрашивать по безопасности докера?