Посмотрите как сделано в бутстрапе, это хорошее решение.
В двух словах - у вас не отдельно оверлей и отдельно попап, у вас оверлей, у которого фиксед 0 0 100% 100% и overflow-y: auto, а в нем само окошко, которое имеет например max-width 600px и margin: 10% auto 15px;
Если переполнение контентом, то скролл появляется у оверлея.
Второй вариант сделать внутри вашей модалки overflow-y: auto, тогда скролл будет появляться внутри модалки